Prognose-Board: Wie geht es bei AMD weiter? Entwicklungen / Strategien / Maßnahmen, die AMD betreffen bzw. die AMD treffen könnte

Software ROCm: Disput zwischen Anush Elangovan, CVP Software Development und Georg Hotz

Hier reibt sich AMD mit der Anwender Community.
Es findet ein Austausch statt und es gibt Ansaetze, die eventuell weiterfuehren (AMD - gern mehr davon!).

1737487548715.png

ROCm Device Support Wishlist

Vielleicht kommt etwas gutes dabei herum. Immerhin wurde es bis in die MainStream Medien hochgespuelt.

Gruss,
TNT
 
Man hat bei ROCm bewusst den Support für GCN gekappt um mit der Weiterentwicklung bei vorhandenem Personal schneller voran zu kommen.
Diese Wishlist ist wohl kaum ein Zeichen, dass man plötzlich zu viele Treiberentwickler übrig hat.

Wenn George Hotz da unverblümte Kritik übt betrifft das sein Eigeninteresse, man reagiert aus PR-Gründen.

AMD konzentrierte sich auch mit Node.ai doch eher an Businesskunden und Datacenter/HPC. Die ROCm Entwicklung und dem Treibersupport durch Instinct, RDNA ab Navi31 ist ein Top-Down Ansatz, weil Entwickler ungern zur GPU noch eine separate Instinct nutzen und verwalten wollen oder immer nur an der Business-Cloud hängen, die sollen künftig auch auf den AI-Laptops mit RDNA3 und NPU entwickeln.

Mit AI kann man künftig Programmierarbeiten "ersetzen", aber bei Legacy-Treibern für ROCm ging das offensichtlich noch nicht. Das ist die Chance für Berufseinsteiger ;)

Ich habe es an anderer Stelle schon geschrieben, bei AMD/Xilinx fehlt eine klare Kommunikation wie künftig das Thema AI-Softwareentwicklung unterstützt werden soll. NPU vs. GPU vs. CPU vs. FPGA Softwarestack ist einfach zu unklar.
 
Naja, diese Spammer von wccftech.com versuchen Nvidia zu schützen und AMD schlecht zu machen.

Richtigkeit und Glaubwürdigkeit von denen läuft gegen Null.

Angesichts von DeepSeek ist erstmal Nvidia's überteuerter CUDA-Schrott kurz vorm Absturz bzw. ist bereits fast komplett entwertet.

AMD ist und bleibt da mit dem MI300X / MI325X und Open Source Unterstützung sehr erhaben und konkurrenzfähig.
 
Selten so viel Blödsinn gelesen - vor allem das Fazit:
Intel would likely emerge as the sole winner from this upheaval.
"price taregts" sind 12 Monate Zeithorizont. Wo soll Nvidia in den nächsten 12 Monaten Marktanteile von AMDs Server Chips mit ARM-Design gewinnen?
 
Ich dachte die CPUs gehen erst mal nach Malaysia und GPUs dann nach China für die Fertigung als Handelsware. Zölle würden da nicht anfallen oder doch?
 
Je häufiger die Ware hin und her geschoben wird, desto teurer wird es für uns hier in Deutschland / Europa.
Jede Warenbewegung kostet halt extra Transportkosten und je nach Gesetzeslage auch Zoll.
 
Angesichts von DeepSeek ist erstmal Nvidia's überteuerter CUDA-Schrott kurz vorm Absturz bzw. ist bereits fast komplett entwertet.
ganz so weit ist es noch nicht, allerdings ist die Zeit des grenzenlosen unbegrenzten Abcashens nun mal vorbei. Schön ist, dass die Chinesen offenbar mit einem Bruchteil der Rechenleistung weit mehr zusammenbringen und somit Nv einen dicken 600-Mrd. Mittelfinger zeigen.
 
Angesichts von DeepSeek ist erstmal Nvidia's überteuerter CUDA-Schrott kurz vorm Absturz bzw. ist bereits fast komplett entwertet.
Das ist doch mitnichten so. Man kann mit weniger Hardware mehr erreicht, aber deswegen wird AI Hardware und gerade Nvidias nicht obsolete. Hinweis: DeepSeek nutzt selbst Nvidias Hardware so weit man weiss. Also, doch CUDA?

AI scheint mit einem Schlag zugaenglicher geworden zu sein; aber noch muss man etwas abwarten bis DeepSeeks Loesung naeher unter die Lupe genommen wurde und man besser verstanden, wie sie diesen Stunt hinlegen konnten.
Erst dann kann man die Implikationen wirklich einschaetzen IMHO.

Interessant wird auch die Reaktion der anderen big Player im AI Markt.
Beaten by OpenSource?

Gruss,
TNT
 
Nvidia lebt nicht nur von der Hardware sondern eine komplette Plattform anzubieten die natürlich nur mit ihrer Hardware läuft. Steht DeepSeek in Konkurrenz zu diesem Konzept ist auch der gestrige Kurseinruch wenig verwunderlich.
Heute scheinen aber einige By Limits erreicht worden zu sein denn nachdem der Kurs wie bei AMD anfänglich mit einem Plus startete und dann wieder auf ne Nullnummer absoff ging er bei nvidia mit dem Start der US Börse wieder steil Bergauf wohingegen die Nullnummer bei AMD blieb.

AMD

1738096985453.png

Nvidia
1738097074971.png
 
Nvidia lebt nicht nur von der Hardware sondern eine komplette Plattform anzubieten die natürlich nur mit ihrer Hardware läuft. Steht DeepSeek in Konkurrenz zu diesem Konzept ist auch der gestrige Kurseinruch wenig verwunderlich.
Wie kommst Du zu dieser Aussage? Hast Du Quellen, die besagen, dass sie ein eigenes Toolset nutzten?
Ich weiss es nicht, aber ich kann mir nicht vorstellen, dass das hier der Fall ist. Warum sollten sie auch.

Der Aktienmarkt sieht es anscheinend ebenfalls anders.

Gruss,
TNT
 
Nvidia hat im KI Bereich die gleiche Nummer versucht wie im Compute Bereich, die Koppelung von Hard- und Software für die "Kundenbindung", Stichwort CUDA. Vielen Kunden schafften sich die ganze Hard- und Software Kombi an aber im weiteren Verlauf schmeckte es vielen von ihnen so gar nicht schmeckte auf nvidias teure Karten festgelegt zu sein denn ein Wechsel der Software ist nicht selten noch teurer. Sie sind ihnen praktisch in die Falle gegangen.
Im KI Bereich versuchten diese genau das zu vermeiden wodurch sie offener für Konkurrenzprodukte sind.

Der Kursverlauf sagt darüber eher wenig aus sondern dürfte eher zeigen mit wie wenig Kenntnis vom "Mob" spekuliert wird.
Zuerst verkaufen all jene die ohne Kenntnis vom Produkt auf das Wachsen der KI Blase spekuliert haben und das sind verdammt viele. Ich will nicht wissen wieviele davon noch nicht einmal wußten das es dabei bei den News offensichtlich um Soft- und nicht um Hardware geht. Das treibt den Kurs nach unten und anschließend nutzen diejenigen die mehr Ahnung davon haben es als neuen Einstiegskurs. Stichwort "Kundenbindung".
Genau das könnte man ebenfalls am Kursverlauf ablesen denn nvidia nutzt eine geschlossene Plattform, AMD nicht und wer ist anschließend wieder hochgeschossen?
 
Ich halte die Konkurrenz in Form von DeepSeek für absolut angebracht und marktbelebend. Schade natürlich, dass Europa (wie in fast allen Bereichen immer weniger oder sogar) überhaupt keine Rolle spielt und allen anderen das Feld überlässt- das führt zu unangenehmen Abhängigkeiten. Schön wäre es wenn die „kundengebundenen“, vorwiegend US amerikanischen Unternehmen, die voll nach dem Motto „koste es was es wolle“ auf Nvidia gesetzt haben (und dies noch immer tun), ordentlich auf die Schnauze fallen, und nun für viel mehr Kohle viel weniger Leistung bekommen. Mit DeepSeek im Rücken muss Nvidia jetzt richtig liefern, der Druck ist da. Diesen Druck hat AMD definitiv nicht.
 
Nun ja, nachdem was ich dazu gelesen hatte scheint es sich bei DeepSeek eher um eine spezialisierte Variante zu handeln (wenn ich mich an die News richtig erinnere nur Text) die dann auf ihrem Spezialgebiet beim Anlernen natürlich weniger Rechenleistung benötigt.
Solange nichts genaueres bekannt ist ist alles nur Kaffeesatz Leserei.
 
Wir brauchen mehr "DeepSeek", vor allem aus Deutschland / Europa und ohne das Zeugs von Nvidia. Das soll verrotten und unverkäuflich bleiben. Und weil das ja so geil ist, kann Huang es behalten. Im verarmten Europa kann das keiner mehr bezahlen.

Mit AMD kannst du alles machen, mit Opensource und günstiger.

Huangs Mondpreise kann er auf dem Mond an Außerirdische verkaufen. Ich schätze Nvidia als den größten Trojaner aller Zeiten ein, wird Zeit das der einfach entfernt wird.
 
Wir brauchen mehr "DeepSeek", vor allem aus Deutschland / Europa und ohne das Zeugs von Nvidia
Grundsaetzlich d'accord.

Aber Deepseek hat das nicht abseits von Nvidia Technologie erreicht, oder?
Oder gibt es da mittlerweile mehr Erkenntnisse?

Was es aber bedeuten kann, dass auch andere KI Hardware Beschleuniger abseits von Nvidia neue Anwendungsfelder erschliessen oder es gar Newcomern vielleicht einfacher macht auf den Markt zu treten. Das wird Kosten noch weiter senken.

Aber wer kommt gegen das CUDA Universum an?
Ich glaube bevor das passiert, hat Europa sein eigenes DeepSeeker Modell selbst entwickelt.
Hardware aus Europa? Mmmhmh...

Gruss,
TNT
 
(Kleines) zweites Leben fuer RDNA3 in AI?
[Falls AMD Benchmarks so zutreffen]


#DeepSeek

 
Zuletzt bearbeitet:
Schön dass AMD so schnell auf den Deepseek Hype aufspringen kann.

Man darf hoffen, dass die noch weiteren HW-Support bald listen werden... vielleicht auch noch für ältere GPUs.
Die kleineren Ryzen AI gibt es scheinbar offiziell nur bis 32GB RAM, mehr müsste da doch auch möglich sein.

ProcessorDeepSeek R1 Distill* (Max Supported)
AMD Ryzen™ AI Max+ 395 32GB1, 64 GB2 and 128 GBDeepSeek-R1-Distill-Llama-70B (64GB and 128GB only)
DeepSeek-R1-Distill-Qwen-32B
AMD Ryzen™ AI HX 370 and 365 24GB and 32 GBDeepSeek-R1-Distill-Qwen-14B
AMD Ryzen™ 8040 and Ryzen™ 7040 32 GBDeepSeek-R1-Distill-Llama-14B

*= AMD recommends running all distills in Q4 K M quantization.
1= Requires Variable Graphics Memory set to Custom: 24GB.
2= Requires Variable Graphics Memory set to High.

Graphics CardDeepSeek R1 Distill* (Max Supported1)
AMD Radeon™ RX 7900 XTXDeepSeek-R1-Distill-Qwen-32B
AMD Radeon™ RX 7900 XTDeepSeek-R1-Distill-Qwen-14B
AMD Radeon™ RX 7900 GREDeepSeek-R1-Distill-Qwen-14B
AMD Radeon™ RX 7800 XTDeepSeek-R1-Distill-Qwen-14B
AMD Radeon™ RX 7700 XTDeepSeek-R1-Distill-Qwen-14B
AMD Radeon™ RX 7600 XTDeepSeek-R1-Distill-Qwen-14B
AMD Radeon™ RX 7600DeepSeek-R1-Distill-Llama-8B

*= AMD recommends running all distills in Q4 K M quantization.
1= Lists the maximum supported distill without partial GPU offload.

PS: das LM Studio ist etwas unklar in der Nutzung, es lässt sich für mich nicht erkennen mit welcher Hardware letztlich gerechnet wurde, zwar werden CPU und GPU erkannt, aber eine Auslastung ist in keinem Fall erkennbar bzw. angezeigt. Sollte da nicht mehr als 1-2% Last mit dem Deepseek R1 entstehen?
... Musste mal offline das testen um sicher zu gehen, eine Radeon VII geht mit dem deepseek-r1-distill-llama-8b in die Vollauslastung und spuckt munter die Antworten, die CPU bleibt dann unbewegt, auch die GPU im Taskmanager, der Monitor im Treiber zeigt die Last jedoch an. Der von AMD für ältere APU empfohlene DeepSeek-R1-Distill-Llama-14B ist leider nicht zu finden.
 
Zuletzt bearbeitet:
Bei den ganzen AI Benchmarks mit Desktop Hardware bin ich eher vorsichtig da vor allem komplexere Modelle ziemliche Speicherfresser sein sollen und damit die Karte mit dem größeren VRAM einen erheblichen Vorteil hat.
Womöglich Bencht man am Ende weniger die Rechenleistung an sich als vielmehr den VRAM und dessen Anbindung.....
 
Womöglich Bencht man am Ende weniger die Rechenleistung an sich als vielmehr den VRAM und dessen Anbindung....
Das zeigt sich an dem Fall bei dem eine AMD Halo Strix APU mit zur Seite gestellten 128GB Speicher Schlitten mit einer RTX4090 laut AMD faehrt.

Gruss,
TNT
 
Zuletzt bearbeitet:
Naja aber wenn die Anschaffungskosten der APU gleich der einer RTX4090 sind spielt es ja keine Rolle :P
Wie hoch ist mein Invest für gleiche oder bessere Leistung und bei der RTX fehlt ja noch der ganze Unterbau ;)
Aber mal abwarten, gibt ja einiges an Theater aktuell um DeepSeek weil es angeblich mit Daten von OpenAI trainiert wurde ... wenn der Dieb sich beschwert sein ihm sein Diebesgut geklaut wurde xD
 
Naja aber wenn die Anschaffungskosten der APU gleich der einer RTX4090 sind spielt es ja keine Rolle :P
Natuerlich - aber darum geht es nicht, sondern, dass eine APU es schaffen kann in Einzelfaellen einer dicken GPU den Rang abzulaufen.
BTW Ryzen AI MAX + etc. wird anfangs sicher nicht in Discount Modellen finden aber da war die RTX 4090 auch nie.

Gruss,
TNT
 
Es zeigt einfach nur wie ungeeignet Desktop Karten dafür sind, die richtigen AI Beschleuniger haben nicht umsonst so viel Speicher verbaut. Das ist als würde man ne 4090 mit 1,5 GB VRAM ausstatten. Mit der gewinnt man wegen der Auslagerorgie in den RAM keinen Blumentopf mehr da man wegen der Bandbreitenlimitierung auf IGP Niveau runterfällt.

Die Anschaffungskosten sind aber auch nicht alles, so ein Ryzen AI MAX + System ist erheblich kleiner und sparsamer.
 
Halten wir einfach fest, das es durchaus Sinn machen kann sich so ein Gerät anstatt einer RTX4090/RTX5090 zu kaufen da die Anschaffungs und Unterhaltskosten einfach geringer sind ;)
 
1738770638633.png
Fast schon typische Reaktion bei AMD. Aber ich habe auch nicht gedacht, dass die 100 EUR so schnell wieder erreicht werden koennten. ||

Gruss,
TNT
 
Zurück
Oben Unten