AMD XDNA - Ryzen AI

[E555user]

Die Hölle friert zu: AMD bringt einen Compiler​

für AI als Open Source ...​

...allerdings handelt es sich bei Peano LLVM um ein Xilinx-Projekt und es ist deshalb vielleicht nicht mehr ganz so revolutionär.

PCMasters.de hat einen wie ich finde sehr guten Artikel dazu:

AMD Peano Open-Source-LLVM-Compiler für Ryzen-KI-Prozessoren vorgestellt

AMD hat heute den Peano Open-Source-LLVM-Compiler vorgestellt, der speziell für die Ryzen-KI-NPUs entwickelt wurde. Diese Ankündigung ist ein wichtiger Schritt für AMD, um die Leistung und die Fähigkeiten von KI-Workloads auf Consumer-Prozessoren zu verbessern. Eingesetzt werden kann Peano mit...

www.pcmasters.de

und natürlich auch Phonronix

AMD's Newest Open-Source Surprise: "Peano" - An LLVM Compiler For Ryzen AI NPUs - Phoronix

www.phoronix.com

Stephen Neuendorffer von Xlinx verweist darauf, dass der Compiler nur für einzelne Cores im Array mit LLVM compilieren kann. Für das gesamte NPU Array braucht es dann MLIR-AIE. Den Link hat er selbst aber falsch gesetzt.

 

[E555user]

Bei TechPowerUp glaubt man bei AMD einen strategischen Wandel in Richtung Software-Unternehmen zu erkennen.
Es soll von AMD-Vertretern erklärt worden sein, dass für Ryzen AI und die Instinct Serie im KI-Einsatz ein Kulturwandel bei AMD stattfinden soll um in den nächsten 3-5 Jahren auch im Bereich Software auf die Kunden zuzugehen und das Angebot und Image von AMD zu verändern.

AMD is Becoming a Software Company. Here's the Plan

Just a few weeks ago, AMD invited us to Barcelona as part of a roundtable, to share their vision for the future of the company, and to get our feedback. On site, were prominent AMD leadership, including Phil Guido, Executive Vice President & Chief Commercial Officer and Jack Huynh, Senior VP &...

www.techpowerup.com

Die Beschreibungen erinnern an die frühen Jahre der Zen-Gerenartionen. Gerade die EPYC-Sparte hatte über das Top-Management regelmässig betont, dass man in der Entwicklung genau den Kunden (gemeint waren wohl Hyperscaler) zugehört hat um die Hardware weiterzuentwickeln.
In den künftigen Softwareangeboten will man nun den grossen AI-Playern mit kombinierten Software-Hardware-Lösungen entgegenkommen.

They are now talking to the major software companies, like Microsoft, Adobe and OpenAI, to learn what their plans are and what they need from a future hardware generation.

Kommentar:
Mit dem Personalwachstum der letzten Jahre hat sich das Engagement für Software bereits deutlich gesteigert. Es bleibt ein Moving-Target, es braucht ein ständiges Engagement. Was fehlt ist die durchgängige Sichtbarkeit und Orientierung zu angebotenen Lösungen genaso wie die zuverlässige Verfügbarkeit in breitem Support für die angebotene Hardware. Es muss aus Sicht eines Entwicklers viel einfacher werden die eigenen Projekte auf AMD-Hardware anzupassen. Es fehlt nach wie vor eine klare Linie bei GPUopen oder im Marketing rund um Radeon-Features und den Software-Partnern im Gaming. Ob das mit AI dann später auch für AMD insgesamt besser klappt wird sich zeigen.
[automerge]1720636469[/automerge]
passend dazu die News zur übernahme von Silo AI

AMD Adds Rolls-Royce To Its Customer List By Buying AI Firm For $665 Million

Chip designer AMD expanded its customer base in the AI industry today after announcing its takeover of Europe's largest private artificial intelligence lab Silo AI. The transaction is worth $665 million, and since it's all cash, AMD might have to rely on debt to finance the deal. Silo is an AI...

wccftech.com

 

[sompe]

Ich denke eher weniger das es darum geht die Hardware nach den Anfürderungen der Software zu entwickeln sondern eher die Schnittstellen für den Zugriff der Software auf die Hardware zu liefern und sich mehr um die Optimierung der Software auf die Hardware zu konzentrieren, also genau das womit die Konkurrenz ihre Hardware puscht.
Bleibt nur zu hoffen das sie dies nicht ebenfalls nutzen um die Konkurrenz künstlich zu behindern um sich selbst einen künstlichen Vorteil zu verschaffen.

 

[E555user]

XDNA™ Architecture and Programming Model​

 

[Yoshi 2k3]

Computerbase berichtet auch über dieses Event im Juni:

Neue Strategie: AMD will auch ein Software-Unternehmen werden

AMD mangelt es an Software, das ist nicht neu. Jetzt wagt der Konzern den Umbruch, in Zukunft steht die Software im Fokus.

www.computerbase.de

 

[E555user]

Kommentar zu Silo.AI Übernahme von Ian Cutress

 

[Yoshi 2k3]

AMD XDNA Ryzen AI Linux Kernel Driver Posted For Review (Phoronix.com)

 

[E555user]

AMD XDNA Ryzen AI Linux Kernel Driver Posted For Review (Phoronix.com)

Kernel-Driver für XDNA sollte helfen den/die Coprozessoren populär zu machen. Allerdings stehen bei Puristen ggf. die notwendigen Firmware-Binaries für die einzelnen Cores im Weg. Ich bin gespannt ob und wie bald eine Art MESA für NPUs entsteht. Die Ansätze von Intel und AMD scheinen doch arg unterschiedlich und am Ende wollen für AI-Tasks auch GPU und CPU mitverwendet werden können.

 

[Yoshi 2k3]

Das ist ein interessanter Gedankengang. Dass diese Art von Treiber grundsätzlich im "accel"-Subsystem des Kernels beheimatet sind bzw sein werden, ergibt ja auf jeden Fall Sinn. Ist das nicht ursprünglich auch von Intel/Habana Labs eingebracht worden? Wie man daraus einen kompletten Softwarestack macht, bleibt definitiv spannend. Wobei es vermutlich auch nicht "schlimm" wäre, wenn die Hersteller alle unterschiedliche Ansätze verfolgen würden.

Am Ende ist es vielleicht eher eine strategische denn eine technische Entscheidung. Gegen wen muss man sich positionieren, um Erfolg zu haben? Ist es eher Intel vs. AMD oder x86 vs. ARM?

 

[E555user]

Aus Hot Chips 2024 eine XDNA2 Folie aus dem Vortrag zu Zen5 und StrixPoint.


Eine gute Übersicht über die AMD/Xilinx basierte AI-Lösungen gab es in der Hot Chips 2024 Session 5 durch Tomai Knopp AMD.
XDNA2 ist eine Variante der auch in Versal verwendeten AI Engines für maschinelles lernen, AIE-ML v2. Es ist die zweite Generation der AIE-ML Architektur bzw. die dritte AI Architektur von AMD/Xilinx überhaupt.