News ROCm 7.0

[User-News]

​

Der neue Softwarestack ROCm 7 ist offiziell verfügbar. Durch die verbesserte Software will man im Inferencing um Faktor 3.5 und im Training um Faktor 3 gegenüber ROCm 6 an Leistung hinzugewonnen haben. Getestet wurde das auf verschiedenen EPYC-Systemen mit jeweils 8 MI-300X Beschleunigern. Man darf also davon ausgehen, dass das auch zu grossen Teilen der verbesserten Cluster-Performance zuzuschreiben ist.

Neben dem verbreiterten Support für Hardware und Datentypen für CNDA4 und RDNA4, Virtualisierung, Cluster und neueste KI-Modelle betont AMD auch die Eignung für MoE, bzw. Mixture of Expert, das bspw. für DeepSeek relevant war.

Während die Marketing-Seite etwas schwammig bleibt zeigt die GitHub Seite für fast alle enthaltenen Pakete einen deutlichen Versionssprung mit jeweils weiteren Informationen zu Neuerungen:

ROCm 7.0.2 release notes — ROCm Documentation

rocm.docs.amd.com

Unterstützt werden alle CDNA-Generationen und RDNA2 bis RDNA4 sowie sämtliche populären Linux-Derivate. Dabei gibt es noch ein Flickenteppich bei diverser Hardware und Softwarekombination. Eine genauere Auflistung mit Details in den Fussnoten findet sich hier.

Compatibility matrix — ROCm Documentation

ROCm compatibility matrix

rocm.docs.amd.com

Es wird weiterhin nicht auf die Besonderheiten von RDNA3.5 bzw. den iGPUs eigegangen, entsprechend ist hier weiterhin nur Ryzen Ai gesetzt.

Entgegen der Erwartungen findet sich noch kein umfassender Windows-Support. Hier bietet AMD das HIP-SDK für Entwickler an um das Coding für ROCm zu ermöglichen.

System requirements (Windows) — HIP SDK installation (Windows)

Windows GPU and OS support

rocm.docs.amd.com

Mit HIP 7.0 soll die Portabilität des Codes für AMD und Nvidia/CUDA nochmals deutlich verbessert sein.

Das AMD AI Team begleitet den Start mit einem Blog-Beitrag:

With ROCm 7.0, AMD delivers:

• Breakthrough training and inference performance with the AMD Instinct™ MI350 series GPUs
• Seamless distributed inference across clusters with support for leading frameworks
• Enhanced code portability with HIP 7.0, streamlining development and migration across hardware ecosystems
• New enterprise-focused tools to simplify AI infrastructure management and deployment
• Popular large-scale MXFP4 and FP8 models quantized with AMD Quark

Es fehlen noch der im Juni 2025 versprochene Support für Ryzen AI Systeme, die Developer-Cloud ist hingegen bereits lanciert.

 

[Krümel]

OpenCL bleibt bei 2.0, obwohl es schon seit 2020 Version 3.0 gibt.

 

[E555user]

Ich denke der Artikel von Phoronix zum OpenCL Thema beschreibt den Stand, es ist nicht auf der Roadmap, im Clang ist der Experimental Support für 3.0

AMD ROCm Looks Like It Will Finally Be Supporting OpenCL 3.0 Soon - Phoronix

www.phoronix.com

CDNA unterstützt im Treiber wohl OpenCL 3, RDNA nur 2.1
AFAIK wurden für OpenCL 3 erstmal einige OpenCL 2 Features nur noch als optional umdefiniert und danach konnte Nvidia die 2er Hürde überspringen.

OpenCL 3.0 Specification Released With New Khronos Open-Source OpenCL SDK - Phoronix

www.phoronix.com

Dazu gab es DMA-Erweiterungen für embedded Systeme, nichts für dGPUs. Mir scheint AMD wurde da ausgebootet und die Entwicklung wurde in eine andere Richtung getrieben. Ab ROCm 5.6 bzw. HIP 5.6 wurde OpenCL Code in HIP überführt. Das damals eingeführte Repository CLR ist hernach in der Modernisierung durch ROCm Systems ersetzt bzw. vereinnahmt worden.

Mit ROCm soll man HIP coden. Ich denke AMD fokussiert hier weil man für das dominierende CUDA Ökosystem eine möglichst einfache und kompatible Alternative bieten muss bzw. möchte.

PS: Ich erwarte künftig eine Ablösung von OpenCL beim Treiber-Support durch SPIR-V IR, so dass OpenCL nur noch für Coder relevant bleibt, dort scheinen andere Sprachen momentan populärer zu sein.

 

[E555user]

hipBLAS sollte nun auch mit den APUs nutzbar sein, Teile der Online-Doku zum Support geben aktuell einen 404-Fehler, vermutlich wegen der Überarbeitung.

[hipblas] Add gfx1150, gfx1151, gfx1200 and gfx1201 support (#1334) · ROCm/rocm-libraries@1f98c0d

monorepo for rocm libraries. Contribute to ROCm/rocm-libraries development by creating an account on GitHub.

github.com

Die ROCm Software sieht auf Github seit dem 7er Release tägliche Commits und Änderungen, in rd. 120 Repositories bisher.

 

[E555user]

AMD hatte zum Start von ROCm 7 eigens auch eine ausführliche Übersicht zur Nutzung für AI / KI veröffentlicht.

ROCm 7.0: An AI-Ready Powerhouse for Performance, Efficiency, and Productivity

Discover how ROCm 7.0 integrates AI across every layer, combining hardware enablement, frameworks, model support, and a suite of optimized tools

rocm.blogs.amd.com

 

[eratte]

 

[eratte]

AMD ROCm 7.0.2 Released With Radeon RX 9060 Officially Supported (phoronix)

 

[E555user]

Im aktuellen Advanced Insight gibt Anush Elangovan viele Einblicke zur ROCm 7 Entwicklung.

Beitrag im Thema 'AMD Advanced Insights'

26.10.2025

In Episode 7 der zwieten Staffel vom 22. Oktober 2025 diskutiert Papermaster mit seinem Kollegen Anush Elangovan, CVP of AI Software at AMD, wie man mit ROCm ein Ökosystem für Compute und AI bauen möchte. Elangovan ist bei Übernahme von Nod.ai zu AMD gewechselt und verantwortet nun die Fortentwicklung des wichtigsten Softwarestacks bei AMD. Als einer der Gründer von Nod.ai war er zuvor bei Google in der Entwicklung von Chrome undd Chrome-OS zuständig.

Elangovan sieht die Zukunft für ROCm ähnlich wie Chrome. Man möchte eine Platfform entwickeln die Basis für...

• E555user

 

[E555user]

Im Blog-Beitrag ROCm 7.9 Technology Preview erklären AMD-Mitarbeiter die Zukunft von ROCm. Hierbei wird die Umsetzungs ausführlicher erläutert während Elangovan im Video aus dem Beitrag zuvor eher auf die Strategie eingeht.

ROCm 7.9 Technology Preview: ROCm Core SDK and TheRock Build System

Introduce ROCm Core SDK, and learn to install and build ROCm components easily using TheRock.

rocm.blogs.amd.com

AMD nutzt TheRock als SDK um ROCm fortlaufend weiterzuentwickeln, es werden nightly Builds für die ROCm Kernkomponenten und dessen SDK erstellt und fortlaufend getestet. Neben dem Preview-Stream ab Version 7.9 werden noch Stable-Stream Versionen von ROCm bis 7.8 weiterentwickelt bis Mitte 2026 dann der Stream von 7.9 den Stable-Zweig ersetzen wird (vermutlich als ROCm 8). Mit dem Wechsel wird die Kompatibilität verloren gehen weil die Build-Mechanismen unterschiedlich sind und Treiber andere Schnittstellen haben. Entwickler sollen sich auf die Änderungen entsprechend einstellen können.

AMD ROCm 7.9.0 preview — AMD ROCm 7.9.0 preview

Learn what ROCm is – AMD's open software stack for GPU programming, including runtimes, compilers, libraries, and tools for Linux and Windows.

rocm.docs.amd.com

Dazu noch ein nettes Video wie sich AMD die Zukunft mit Open Source ROCm so vorstellt

Etwas schlechter Ton, aber auch ein gutes Interview zur neuen Rolle von ROCm als Open Source Entwicklung.

 

[E555user]

Mit PRIMUS bietet AMD nun eine Library für ROCm speziell für Large Scale LLM Training mit Instinct-Clustern.

Bewegung in der Developer Community....

• Künftig mit AI-Untertützung erstellte high performance Compute-Kernels im Projekt HipKittens.
• GPUmode kernel competition bricht CUDA only mit grossem Erfolg für ROCm auf.