AMD XDNA - Ryzen AI

[E555user]

Mit der CES Keynote hat AMD erstmals XDNA als neue Architektur für AI bzw. KI für X86 Prozessoren angekündigt.
Der entsprechende Teil aus der Pressemitteilung zur CES.

AMD Brings the Power of AI to Mobile Processors

As part of the new Ryzen 7040 Series Mobile processors, AMD unveiled Ryzen™ AI, the first dedicated artificial intelligence hardware in an x86 processor, available on select models, bringing AMD XDNA™ adaptive AI architecture to laptop computing delivering more performance for real-time AI experiences. Ryzen processors with Ryzen AI outperform the Apple M2 CPU by up to 20% while being up to 50% more energy efficient 8. This performance and efficiency ultimately add up to richer, real-time user experiences in video collaboration, content creation, productivity, gaming, and protection.

“Microsoft and AMD have a long history of incredible partnership and impact,” said Panos Panay, EVP, and chief product officer, Microsoft. “The AMD Ryzen 7040 Series paired with the latest Windows 11 updates is the next step on our journey together. Leveraging AMD silicon along with our AI investments in Windows will unlock groundbreaking experiences for our customers.”

8. Engineering projections are not a guarantee of final performance. Performance projection by AMD engineering staff based on expected performance. Specific projections are based on pre-silicon analysis and are subject to change when final products are released in market. PHX-13.

Das universelle X steht also künftig für künstliche Intelligenz wie das C in CDNA für Compute und das R in RDNA für Radeon.
Bereits zum Financial Analyst Day wurde der Terminus XDNA in der Präsentation von Viktor Peng (S.14ff) der Öffentlichkeit präsentiert, allerdings noch vor allem im Kontext mit den Xilinx-Produkten. Das X in XDNA steht deshalb auch für Xilinx.

Gemäss einem Artikel von STH handelt es sich um die gleiche Architektur, die in den aktuellen FPGA-Beschleunigern der Versal-Serie genutzt wird. Diese FPGAs werden bei AMD als ACAP (Adaptive Compute Acceleration Platform) bezeichnet. ACAP bezieht dabei neben den AI-Beschleunigern auch die damit integrierten Scalaren Einheiten (z.B. ARM) und programmierbare Netzwerkkomponenten mit ein.
In den Fussnoten der AMD-Präsentation war darauf hingewiesen, dass Microsoft ML ausschliesslich für die Ryzen-CPUs verwendet werden soll. Die Vermutung ist, dass sich das auf den Treiber-Support vor allem auch ohne XDNA bezieht. Abseits dem Client-Computing möchte AMD also andere APIs bevorzugt unterstützen, die Entwickler sollen sich dem von Xilinx geprägten Softwarestack zuwenden.

AMD zeigt mit dem Launch der ersten Phoenix Laptops im März 2023, dass sie nach der Übernahme von Xilinx und den Ankündigungen letzten Jahre rasch integrierte Produkte in den Markt bringen können. THG berichtet dazu über Aussagen von AMD, dass man bereits Pläne für XDNA2 und XDNA3 Ausbaustufen hat.

Für die erste Implementierung in den Ryzen 7040 APUs als Ryzen AI spricht AMD von 4 unabhängigen AI-Streams mit einer Leistung von 12 Billionen AI-Ops pro Sekunde (engl.: trillion).

Auf der Produktseite zur Beschleunigerkarte Alveo V70 spezifiziert AMD diese als XDNA Versal AI Core basierend. Die Alveo V70 war Teil der CES-Präsentation und ist fürs Frühjahr 2023 angekündigt:

Die Ryzen AI leisten nach Angaben von AMD nur 3% dieser Alveo, bzw. ist diese mit 400 TOPS vs 12 TOPS um Faktor 33 leistungsfähiger.

 

[pipin]

community.amd.com/t5/business/building-the-future-of-laptop-mobility/ba-p/572254/

As far as new and emerging technologies, artificial intelligence holds tremendous long-term potential. AMD will offer hardware AI acceleration on select 7040 series processors in 2023 and expects to expand the total number of processors with onboard AI hardware over time. This hardware AI integration represents an important long-term transition for the entire computing industry. Just as the graphics card was invented to speed up the unique demands of graphics engine processing, so has the Ryzen AI engine been introduced for the specialized demands on AI processing.

Zukünftige Prozessoren sollen demnach mehr AI-Streams bekommen.

Dann sind wir mal gespannt, was vor allem MS daraus macht.

 

[Complicated]

Kürzlich habe ich die CES Präsentation von AMD gemeinsam mit einem Freund angeschaut. Der konnte nicht gut Englisch und ich habe den MS Translator auf einem Smartphone genutzt (Galaxy S10+). Das hat recht gut funktioniert in Echtzeit und ich bin sicher da wird einiges an Verbesserungen möglich mit zusätzliche AI-Streams auf Notebooks/Desktops. Wenn Untertitel/Übersetzungen lokal generiert werden können und damit Plattform/Format-Unabhängig werden, ist das ein großer Vorteil.

Probleme gabs übrigens mit dem spanischen Dialekt des HP CEOs.

 

[E555user]

(Ich habe im ersten Post noch die zusätzlichen 4 Bilder der Präsentationen zu RyzenAI und Alveo ergänzt, nachdem ich die in Pinpins Slide Decks gefunden hatte.)

Bei Microsoft war mir das Gerede während der Keynote noch viel zu schwammig. Dass ich in Bildbearbeitung zur Korrektur unterstützt werde oder es bessere Deinterlacer, Skalierer und bessere Rausch- und Wackel-Reduktion geben wird ist ein erwartbarer Anwendungsfall.
Übersetzungen wohl auch, obwohl ich das eher in der Cloud sehe wegen den vielen Sprachen mit steten Entwicklungen und Dialekten.

Ton- und Bildkorrektur bei Videotelefonie bleibt mir aber momentan als einziger breitenwirksamer Anwendungsfall für Client-Compute übrig.
Zur AMD-Folie zu Gaming, Security und Adaptive UI sehe ich da noch kein Anwendungsfall. Womöglich möchte Microsoft künftig

• das Kontext-Menü per AI für den Nutzer individualisieren?
• die vergessenen Passwörter per AI wiederherstellen?
• einen trainierbaren Cheat-Bot für Maus & Keyboard fürs Grinding anbieten?
• 

 

[w0mbat]

Gegner-KI in single player Spielen, die auf der AIE läuft?

Hintergrund bei Videotelefonie tauschen, KI-Stimmoptimierung, Video-Upscaling.