News DirectML - Machine Learning mit AMD und Microsoft

User-News

Von E555user

Hinweis: Diese "User-News" wurde nicht von der Planet 3DNow! Redaktion veröffentlicht, sondern vom oben genannten Leser, der persönlich für den hier veröffentlichten Inhalt haftet.
Auf GPUopen kündigt AMD den Support für Microsofts DirectML für Stable Diffusion an. Mit Stable Diffusion werden aus Textinhalten per MachineLearning gebildeter neuronaler Netze künstliche Bilder generiert.

cutout user generated stable diffusion pic
Die AMD Treiberunterstützung erfolgt auf einer Zwischenschicht bzw. sogenannter 'metacommands' in Olive als Abstraktionslayer, welche für DirectML eine Optimierung des generischen ML-code für einzelne Hardwarearchitekturen erlaubt.

Im vorliegenden Fall nennt AMD die RDNA3 GPUs und die AMD Ryzen™ 7040 Serie CPUs mit XDNA. Es bleibt aber offen, ob bei diesen die Olive Optimierungen neben der RDNA3 iGPU überhaupt die dedizierten AI-Beschleuniger nutzen.

Klar ist, dass heute für eine generische HAL von Microsoft ein Anfang gemacht ist und die Software sich erst schrittweise von bisherigen Pfaden via CUDA oder ROCm dem Konzept von Microsoft zuwenden muss. Gerade in kommerzieller Software für Endanwender im Microsoft Ökosystem bietet sich das an. Es wäre durchaus denkbar, dass künftige Character Builds in Videospielen durch solche Technologien unterstützt werden und für mehr Individualisierung sorgen.

In Developer-Blogs von Microsoft schreibt
Jacques van Rhyn Zusammenhänge über DirectML, Olive und Stable Diffusiion,
und
Adele Parsons erläutert Performance-Optimierungen für DirectML mittels Olive. Stable Diffusion dient dabei als Beispielprojekt.
 
Zuletzt bearbeitet:
Mit dem aktuellen Treiberupdate hat AMD die Optimierungen für die Top-GPUs der 7900er RDNA3 Serie zur Verfügung gestellt.

Performance optimizations for Microsoft Olive DirectML pipeline for Stable Diffusion 1.5 on AMD Radeon RX 7900 series graphics

Boost your performance by an average of 2x in Microsoft Olive Optimized DirectML Stable Diffusion 1.5 using AMD Software: Adrenalin Edition™ 23.5.2 on the AMD Radeon™ RX 7900 XTX graphics card, versus the previous software driver version 23.5.1. RS-579
::
Footnotes
RS-579 - Testing by AMD as of May 30, 2023, on an AMD Radeon RX 7900 XTX graphics card with AMD Software: Adrenalin Edition 23.5.2 and 23.5.1 drivers, and AMD Smart Access Memory technology on a test system configured with an AMD Ryzen 7 7800X3D CPU, Radeon RX 7900 XTX graphics, 32GB DDR5-6000 RAM, ASUS ROG X670E Hero motherboard, and Windows 11 Pro 2022 Update, using Microsoft Olive Optimized DirectML Stable Diffusion 1.5 text-to-image diffusion generating 512 x 512 images measured in average images generated per min. Performance may vary. System manufacturers may vary configurations, yielding different results.

Offensichtlich bedarf es für beste Ergebnisse sowohl einen Codepfad (via Olive) auf Seiten der Applikation als auch spezifisch je GPU-Modell im Treiber selbst. Allerdings spricht AMD entgegen der GPUopen Seite nicht mehr vage von RDNA3 allgemein sondern zunächst nur noch von Optimierungen für die zwei GPU-Modelle.

GPUopen:
These optimizations have been validated on AMD RDNA™ 3 devices that feature compute units with AI accelerators, including AMD Radeon™ RX 7900 Series graphics cards.

Man muss also hoffen, dass AMD hier etwas mehr als ein Testballoon fürs Marketing hat fliegen lassen und auch künftig mehr als nur die Top-GPUs "inkludiert".
 
Nachtrag: Adam Kozak von AMD hatte das Thema als Blog mit Verdoppelung der Performance auf einer Radeon 7900XTX ebenso online gebracht.
 
Nachtrag2: Neues HowTo für Stable Diffusiion WebUI
 
Nachtrag3: Wieder neues HowTo für Stable Diffusiion WebUI
...für die 7900xtx ist mann statt bei 9x Performance mittlerweile bei 12x angelangt.
 
Zurück
Oben Unten