App installieren
How to install the app on iOS
Follow along with the video below to see how to install our site as a web app on your home screen.
Anmerkung: This feature may not be available in some browsers.
Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden.
Du solltest ein Upgrade durchführen oder ein alternativer Browser verwenden.
Du solltest ein Upgrade durchführen oder ein alternativer Browser verwenden.
Prognose-Board: Wie geht es bei AMD weiter? Entwicklungen / Strategien / Maßnahmen, die AMD betreffen bzw. die AMD treffen könnte
- Ersteller BavarianRealist
- Erstellt am
Software ROCm: Disput zwischen Anush Elangovan, CVP Software Development und Georg Hotz
Hier reibt sich AMD mit der Anwender Community.
Es findet ein Austausch statt und es gibt Ansaetze, die eventuell weiterfuehren (AMD - gern mehr davon!).

ROCm Device Support Wishlist
Vielleicht kommt etwas gutes dabei herum. Immerhin wurde es bis in die MainStream Medien hochgespuelt.
Gruss,
TNT
Hier reibt sich AMD mit der Anwender Community.
Es findet ein Austausch statt und es gibt Ansaetze, die eventuell weiterfuehren (AMD - gern mehr davon!).

ROCm Device Support Wishlist
Vielleicht kommt etwas gutes dabei herum. Immerhin wurde es bis in die MainStream Medien hochgespuelt.
Gruss,
TNT
E555user
Admiral Special
- Mitglied seit
- 05.10.2015
- Beiträge
- 2.000
- Renomée
- 843
Man hat bei ROCm bewusst den Support für GCN gekappt um mit der Weiterentwicklung bei vorhandenem Personal schneller voran zu kommen.
Diese Wishlist ist wohl kaum ein Zeichen, dass man plötzlich zu viele Treiberentwickler übrig hat.
Wenn George Hotz da unverblümte Kritik übt betrifft das sein Eigeninteresse, man reagiert aus PR-Gründen.
AMD konzentrierte sich auch mit Node.ai doch eher an Businesskunden und Datacenter/HPC. Die ROCm Entwicklung und dem Treibersupport durch Instinct, RDNA ab Navi31 ist ein Top-Down Ansatz, weil Entwickler ungern zur GPU noch eine separate Instinct nutzen und verwalten wollen oder immer nur an der Business-Cloud hängen, die sollen künftig auch auf den AI-Laptops mit RDNA3 und NPU entwickeln.
Mit AI kann man künftig Programmierarbeiten "ersetzen", aber bei Legacy-Treibern für ROCm ging das offensichtlich noch nicht. Das ist die Chance für Berufseinsteiger
Ich habe es an anderer Stelle schon geschrieben, bei AMD/Xilinx fehlt eine klare Kommunikation wie künftig das Thema AI-Softwareentwicklung unterstützt werden soll. NPU vs. GPU vs. CPU vs. FPGA Softwarestack ist einfach zu unklar.
Diese Wishlist ist wohl kaum ein Zeichen, dass man plötzlich zu viele Treiberentwickler übrig hat.
Wenn George Hotz da unverblümte Kritik übt betrifft das sein Eigeninteresse, man reagiert aus PR-Gründen.
AMD konzentrierte sich auch mit Node.ai doch eher an Businesskunden und Datacenter/HPC. Die ROCm Entwicklung und dem Treibersupport durch Instinct, RDNA ab Navi31 ist ein Top-Down Ansatz, weil Entwickler ungern zur GPU noch eine separate Instinct nutzen und verwalten wollen oder immer nur an der Business-Cloud hängen, die sollen künftig auch auf den AI-Laptops mit RDNA3 und NPU entwickeln.
Mit AI kann man künftig Programmierarbeiten "ersetzen", aber bei Legacy-Treibern für ROCm ging das offensichtlich noch nicht. Das ist die Chance für Berufseinsteiger

Ich habe es an anderer Stelle schon geschrieben, bei AMD/Xilinx fehlt eine klare Kommunikation wie künftig das Thema AI-Softwareentwicklung unterstützt werden soll. NPU vs. GPU vs. CPU vs. FPGA Softwarestack ist einfach zu unklar.

AMD Expected To Lose Out On Taiwan Semi Tariffs; Melius Research Thinks NVIDIA Is Going To "Come For Them" Via Arm-based CPUs
AMD has just received another downgrade, and that too on a vector wholly unrelated to the ongoing DeepSeek-related saga.

vinacis_vivids
Admiral Special
- Mitglied seit
- 12.01.2004
- Beiträge
- 1.161
- Renomée
- 173
- Details zu meinem Desktop
- Prozessor
- AMD Ryzen 9 7950X 16C/32T
- Mainboard
- ASUS ProArt X670E-CREATOR WIFI
- Kühlung
- Arctic Liquid Freezer II 360 RGB
- Speicher
- HyperX Fury 64GB DDR5 6000Mhz CL30
- Grafikprozessor
- Sapphire Nitro+ RX 7900 XTX 24GB
- Display
- LG 5K HDR 10bit 5120x2160@60hz
- SSD
- Samsung SSD 980Pro 2TB
- Soundkarte
- Creative Soundblaster ZXR
- Gehäuse
- Cougar DarkBlader X5
- Netzteil
- InterTech Sama Forza 1200W
- Tastatur
- Cherry MX-10.0 RGB Mechanisch
- Maus
- Razer Mamba
- Betriebssystem
- Windows 11 Education Pro
- Webbrowser
- Google Chrome
- Internetanbindung
- ▼1000 Mbit
Naja, diese Spammer von wccftech.com versuchen Nvidia zu schützen und AMD schlecht zu machen.
Richtigkeit und Glaubwürdigkeit von denen läuft gegen Null.
Angesichts von DeepSeek ist erstmal Nvidia's überteuerter CUDA-Schrott kurz vorm Absturz bzw. ist bereits fast komplett entwertet.
AMD ist und bleibt da mit dem MI300X / MI325X und Open Source Unterstützung sehr erhaben und konkurrenzfähig.
Richtigkeit und Glaubwürdigkeit von denen läuft gegen Null.
Angesichts von DeepSeek ist erstmal Nvidia's überteuerter CUDA-Schrott kurz vorm Absturz bzw. ist bereits fast komplett entwertet.
AMD ist und bleibt da mit dem MI300X / MI325X und Open Source Unterstützung sehr erhaben und konkurrenzfähig.
Complicated
Grand Admiral Special
- Mitglied seit
- 08.10.2010
- Beiträge
- 4.992
- Renomée
- 463
- Details zu meinem Desktop
- Prozessor
- AMD Ryzen 7 3700X
- Mainboard
- MSI X570-A PRO
- Kühlung
- Scythe Kama Angle - passiv
- Speicher
- 32 GB (4x 8 GB) G.Skill TridentZ Neo DDR4-3600 CL16-19-19-39
- Grafikprozessor
- Sapphire Radeon RX 5700 Pulse 8GB PCIe 4.0
- Display
- 27", Samsung, 2560x1440
- SSD
- 1 TB Gigabyte AORUS M.2 PCIe 4.0 x4 NVMe 1.3
- HDD
- 2 TB WD Caviar Green EADS, NAS QNAP
- Optisches Laufwerk
- Samsung SH-223L
- Gehäuse
- Lian Li PC-B25BF
- Netzteil
- Corsair RM550X ATX Modular (80+Gold) 550 Watt
- Betriebssystem
- Win 10 Pro.
Selten so viel Blödsinn gelesen - vor allem das Fazit:
"price taregts" sind 12 Monate Zeithorizont. Wo soll Nvidia in den nächsten 12 Monaten Marktanteile von AMDs Server Chips mit ARM-Design gewinnen?Intel would likely emerge as the sole winner from this upheaval.
vinacis_vivids
Admiral Special
- Mitglied seit
- 12.01.2004
- Beiträge
- 1.161
- Renomée
- 173
- Details zu meinem Desktop
- Prozessor
- AMD Ryzen 9 7950X 16C/32T
- Mainboard
- ASUS ProArt X670E-CREATOR WIFI
- Kühlung
- Arctic Liquid Freezer II 360 RGB
- Speicher
- HyperX Fury 64GB DDR5 6000Mhz CL30
- Grafikprozessor
- Sapphire Nitro+ RX 7900 XTX 24GB
- Display
- LG 5K HDR 10bit 5120x2160@60hz
- SSD
- Samsung SSD 980Pro 2TB
- Soundkarte
- Creative Soundblaster ZXR
- Gehäuse
- Cougar DarkBlader X5
- Netzteil
- InterTech Sama Forza 1200W
- Tastatur
- Cherry MX-10.0 RGB Mechanisch
- Maus
- Razer Mamba
- Betriebssystem
- Windows 11 Education Pro
- Webbrowser
- Google Chrome
- Internetanbindung
- ▼1000 Mbit
Je häufiger die Ware hin und her geschoben wird, desto teurer wird es für uns hier in Deutschland / Europa.
Jede Warenbewegung kostet halt extra Transportkosten und je nach Gesetzeslage auch Zoll.
Jede Warenbewegung kostet halt extra Transportkosten und je nach Gesetzeslage auch Zoll.
Sparky
Admiral Special
- Mitglied seit
- 02.09.2004
- Beiträge
- 1.889
- Renomée
- 218
- Standort
- Wien
- Mein Laptop
- M1 Apple iPad Pro 12.9", 5.Gen (rendert brav meine Filmchen in Lumafusion)
- Details zu meinem Desktop
- Prozessor
- AMD Ryzen 9 5950X
- Mainboard
- ASUS STRIX B550-F
- Kühlung
- Fractal Design C36
- Speicher
- 64 GB, G.Skill Trident Z Neo, 3600 MHz
- Grafikprozessor
- AMD Radeon RX 6900 XT
- Display
- LG UltraGear 38GN-950-B
- SSD
- ein paar...
- HDD
- einige...
- Optisches Laufwerk
- hatte ich mal...
- Soundkarte
- On board...
- Gehäuse
- Fractal Design Define R6
- Netzteil
- EVGA 850 W
- Betriebssystem
- Windows 10 Pro
- Webbrowser
- Firefox
- Internetanbindung
- ▼300 MBit ▲50 MBit
ganz so weit ist es noch nicht, allerdings ist die Zeit des grenzenlosen unbegrenzten Abcashens nun mal vorbei. Schön ist, dass die Chinesen offenbar mit einem Bruchteil der Rechenleistung weit mehr zusammenbringen und somit Nv einen dicken 600-Mrd. Mittelfinger zeigen.Angesichts von DeepSeek ist erstmal Nvidia's überteuerter CUDA-Schrott kurz vorm Absturz bzw. ist bereits fast komplett entwertet.
Das ist doch mitnichten so. Man kann mit weniger Hardware mehr erreicht, aber deswegen wird AI Hardware und gerade Nvidias nicht obsolete. Hinweis: DeepSeek nutzt selbst Nvidias Hardware so weit man weiss. Also, doch CUDA?Angesichts von DeepSeek ist erstmal Nvidia's überteuerter CUDA-Schrott kurz vorm Absturz bzw. ist bereits fast komplett entwertet.
AI scheint mit einem Schlag zugaenglicher geworden zu sein; aber noch muss man etwas abwarten bis DeepSeeks Loesung naeher unter die Lupe genommen wurde und man besser verstanden, wie sie diesen Stunt hinlegen konnten.
Erst dann kann man die Implikationen wirklich einschaetzen IMHO.
Interessant wird auch die Reaktion der anderen big Player im AI Markt.
Beaten by OpenSource?
Gruss,
TNT
sompe
Grand Admiral Special
- Mitglied seit
- 09.02.2009
- Beiträge
- 15.327
- Renomée
- 2.344
- Mein Laptop
- Dell G5 15 SE 5505 Eclipse Black
- Details zu meinem Desktop
- Prozessor
- AMD Ryzen 9 3950X
- Mainboard
- MSI MPG X570 GAMING PRO CARBON WIFI
- Kühlung
- Wasserkühlung
- Speicher
- 4x 16 GB G.Skill Trident Z RGB, DDR4-3200, CL14
- Grafikprozessor
- AMD Radeon RX 6900 XT
- Display
- 1x 32" LG 32UD89-W + 1x 24" Dell Ultrasharp 2405FPW
- SSD
- Samsung SSD 980 PRO 1TB, Crucial MX500 500GB, Intel 600p 512GB, Intel 600p 1TB
- HDD
- Western Digital WD Red 2 & 3TB
- Optisches Laufwerk
- LG GGC-H20L
- Soundkarte
- onboard
- Gehäuse
- Thermaltake Armor
- Netzteil
- be quiet! Dark Power Pro 11 1000W
- Betriebssystem
- Windows 10 Professional, Windows 7 Professional 64 Bit, Ubuntu 20.04 LTS
- Webbrowser
- Firefox
Nvidia lebt nicht nur von der Hardware sondern eine komplette Plattform anzubieten die natürlich nur mit ihrer Hardware läuft. Steht DeepSeek in Konkurrenz zu diesem Konzept ist auch der gestrige Kurseinruch wenig verwunderlich.
Heute scheinen aber einige By Limits erreicht worden zu sein denn nachdem der Kurs wie bei AMD anfänglich mit einem Plus startete und dann wieder auf ne Nullnummer absoff ging er bei nvidia mit dem Start der US Börse wieder steil Bergauf wohingegen die Nullnummer bei AMD blieb.
AMD

Nvidia

Heute scheinen aber einige By Limits erreicht worden zu sein denn nachdem der Kurs wie bei AMD anfänglich mit einem Plus startete und dann wieder auf ne Nullnummer absoff ging er bei nvidia mit dem Start der US Börse wieder steil Bergauf wohingegen die Nullnummer bei AMD blieb.
AMD

Nvidia

Wie kommst Du zu dieser Aussage? Hast Du Quellen, die besagen, dass sie ein eigenes Toolset nutzten?Nvidia lebt nicht nur von der Hardware sondern eine komplette Plattform anzubieten die natürlich nur mit ihrer Hardware läuft. Steht DeepSeek in Konkurrenz zu diesem Konzept ist auch der gestrige Kurseinruch wenig verwunderlich.
Ich weiss es nicht, aber ich kann mir nicht vorstellen, dass das hier der Fall ist. Warum sollten sie auch.
Der Aktienmarkt sieht es anscheinend ebenfalls anders.
Gruss,
TNT
sompe
Grand Admiral Special
- Mitglied seit
- 09.02.2009
- Beiträge
- 15.327
- Renomée
- 2.344
- Mein Laptop
- Dell G5 15 SE 5505 Eclipse Black
- Details zu meinem Desktop
- Prozessor
- AMD Ryzen 9 3950X
- Mainboard
- MSI MPG X570 GAMING PRO CARBON WIFI
- Kühlung
- Wasserkühlung
- Speicher
- 4x 16 GB G.Skill Trident Z RGB, DDR4-3200, CL14
- Grafikprozessor
- AMD Radeon RX 6900 XT
- Display
- 1x 32" LG 32UD89-W + 1x 24" Dell Ultrasharp 2405FPW
- SSD
- Samsung SSD 980 PRO 1TB, Crucial MX500 500GB, Intel 600p 512GB, Intel 600p 1TB
- HDD
- Western Digital WD Red 2 & 3TB
- Optisches Laufwerk
- LG GGC-H20L
- Soundkarte
- onboard
- Gehäuse
- Thermaltake Armor
- Netzteil
- be quiet! Dark Power Pro 11 1000W
- Betriebssystem
- Windows 10 Professional, Windows 7 Professional 64 Bit, Ubuntu 20.04 LTS
- Webbrowser
- Firefox
Nvidia hat im KI Bereich die gleiche Nummer versucht wie im Compute Bereich, die Koppelung von Hard- und Software für die "Kundenbindung", Stichwort CUDA. Vielen Kunden schafften sich die ganze Hard- und Software Kombi an aber im weiteren Verlauf schmeckte es vielen von ihnen so gar nicht schmeckte auf nvidias teure Karten festgelegt zu sein denn ein Wechsel der Software ist nicht selten noch teurer. Sie sind ihnen praktisch in die Falle gegangen.
Im KI Bereich versuchten diese genau das zu vermeiden wodurch sie offener für Konkurrenzprodukte sind.
Der Kursverlauf sagt darüber eher wenig aus sondern dürfte eher zeigen mit wie wenig Kenntnis vom "Mob" spekuliert wird.
Zuerst verkaufen all jene die ohne Kenntnis vom Produkt auf das Wachsen der KI Blase spekuliert haben und das sind verdammt viele. Ich will nicht wissen wieviele davon noch nicht einmal wußten das es dabei bei den News offensichtlich um Soft- und nicht um Hardware geht. Das treibt den Kurs nach unten und anschließend nutzen diejenigen die mehr Ahnung davon haben es als neuen Einstiegskurs. Stichwort "Kundenbindung".
Genau das könnte man ebenfalls am Kursverlauf ablesen denn nvidia nutzt eine geschlossene Plattform, AMD nicht und wer ist anschließend wieder hochgeschossen?
Im KI Bereich versuchten diese genau das zu vermeiden wodurch sie offener für Konkurrenzprodukte sind.
Der Kursverlauf sagt darüber eher wenig aus sondern dürfte eher zeigen mit wie wenig Kenntnis vom "Mob" spekuliert wird.
Zuerst verkaufen all jene die ohne Kenntnis vom Produkt auf das Wachsen der KI Blase spekuliert haben und das sind verdammt viele. Ich will nicht wissen wieviele davon noch nicht einmal wußten das es dabei bei den News offensichtlich um Soft- und nicht um Hardware geht. Das treibt den Kurs nach unten und anschließend nutzen diejenigen die mehr Ahnung davon haben es als neuen Einstiegskurs. Stichwort "Kundenbindung".
Genau das könnte man ebenfalls am Kursverlauf ablesen denn nvidia nutzt eine geschlossene Plattform, AMD nicht und wer ist anschließend wieder hochgeschossen?
Sparky
Admiral Special
- Mitglied seit
- 02.09.2004
- Beiträge
- 1.889
- Renomée
- 218
- Standort
- Wien
- Mein Laptop
- M1 Apple iPad Pro 12.9", 5.Gen (rendert brav meine Filmchen in Lumafusion)
- Details zu meinem Desktop
- Prozessor
- AMD Ryzen 9 5950X
- Mainboard
- ASUS STRIX B550-F
- Kühlung
- Fractal Design C36
- Speicher
- 64 GB, G.Skill Trident Z Neo, 3600 MHz
- Grafikprozessor
- AMD Radeon RX 6900 XT
- Display
- LG UltraGear 38GN-950-B
- SSD
- ein paar...
- HDD
- einige...
- Optisches Laufwerk
- hatte ich mal...
- Soundkarte
- On board...
- Gehäuse
- Fractal Design Define R6
- Netzteil
- EVGA 850 W
- Betriebssystem
- Windows 10 Pro
- Webbrowser
- Firefox
- Internetanbindung
- ▼300 MBit ▲50 MBit
Ich halte die Konkurrenz in Form von DeepSeek für absolut angebracht und marktbelebend. Schade natürlich, dass Europa (wie in fast allen Bereichen immer weniger oder sogar) überhaupt keine Rolle spielt und allen anderen das Feld überlässt- das führt zu unangenehmen Abhängigkeiten. Schön wäre es wenn die „kundengebundenen“, vorwiegend US amerikanischen Unternehmen, die voll nach dem Motto „koste es was es wolle“ auf Nvidia gesetzt haben (und dies noch immer tun), ordentlich auf die Schnauze fallen, und nun für viel mehr Kohle viel weniger Leistung bekommen. Mit DeepSeek im Rücken muss Nvidia jetzt richtig liefern, der Druck ist da. Diesen Druck hat AMD definitiv nicht.
sompe
Grand Admiral Special
- Mitglied seit
- 09.02.2009
- Beiträge
- 15.327
- Renomée
- 2.344
- Mein Laptop
- Dell G5 15 SE 5505 Eclipse Black
- Details zu meinem Desktop
- Prozessor
- AMD Ryzen 9 3950X
- Mainboard
- MSI MPG X570 GAMING PRO CARBON WIFI
- Kühlung
- Wasserkühlung
- Speicher
- 4x 16 GB G.Skill Trident Z RGB, DDR4-3200, CL14
- Grafikprozessor
- AMD Radeon RX 6900 XT
- Display
- 1x 32" LG 32UD89-W + 1x 24" Dell Ultrasharp 2405FPW
- SSD
- Samsung SSD 980 PRO 1TB, Crucial MX500 500GB, Intel 600p 512GB, Intel 600p 1TB
- HDD
- Western Digital WD Red 2 & 3TB
- Optisches Laufwerk
- LG GGC-H20L
- Soundkarte
- onboard
- Gehäuse
- Thermaltake Armor
- Netzteil
- be quiet! Dark Power Pro 11 1000W
- Betriebssystem
- Windows 10 Professional, Windows 7 Professional 64 Bit, Ubuntu 20.04 LTS
- Webbrowser
- Firefox
Nun ja, nachdem was ich dazu gelesen hatte scheint es sich bei DeepSeek eher um eine spezialisierte Variante zu handeln (wenn ich mich an die News richtig erinnere nur Text) die dann auf ihrem Spezialgebiet beim Anlernen natürlich weniger Rechenleistung benötigt.
Solange nichts genaueres bekannt ist ist alles nur Kaffeesatz Leserei.
Solange nichts genaueres bekannt ist ist alles nur Kaffeesatz Leserei.
vinacis_vivids
Admiral Special
- Mitglied seit
- 12.01.2004
- Beiträge
- 1.161
- Renomée
- 173
- Details zu meinem Desktop
- Prozessor
- AMD Ryzen 9 7950X 16C/32T
- Mainboard
- ASUS ProArt X670E-CREATOR WIFI
- Kühlung
- Arctic Liquid Freezer II 360 RGB
- Speicher
- HyperX Fury 64GB DDR5 6000Mhz CL30
- Grafikprozessor
- Sapphire Nitro+ RX 7900 XTX 24GB
- Display
- LG 5K HDR 10bit 5120x2160@60hz
- SSD
- Samsung SSD 980Pro 2TB
- Soundkarte
- Creative Soundblaster ZXR
- Gehäuse
- Cougar DarkBlader X5
- Netzteil
- InterTech Sama Forza 1200W
- Tastatur
- Cherry MX-10.0 RGB Mechanisch
- Maus
- Razer Mamba
- Betriebssystem
- Windows 11 Education Pro
- Webbrowser
- Google Chrome
- Internetanbindung
- ▼1000 Mbit
Wir brauchen mehr "DeepSeek", vor allem aus Deutschland / Europa und ohne das Zeugs von Nvidia. Das soll verrotten und unverkäuflich bleiben. Und weil das ja so geil ist, kann Huang es behalten. Im verarmten Europa kann das keiner mehr bezahlen.
Mit AMD kannst du alles machen, mit Opensource und günstiger.
Huangs Mondpreise kann er auf dem Mond an Außerirdische verkaufen. Ich schätze Nvidia als den größten Trojaner aller Zeiten ein, wird Zeit das der einfach entfernt wird.
Mit AMD kannst du alles machen, mit Opensource und günstiger.
Huangs Mondpreise kann er auf dem Mond an Außerirdische verkaufen. Ich schätze Nvidia als den größten Trojaner aller Zeiten ein, wird Zeit das der einfach entfernt wird.
Grundsaetzlich d'accord.Wir brauchen mehr "DeepSeek", vor allem aus Deutschland / Europa und ohne das Zeugs von Nvidia
Aber Deepseek hat das nicht abseits von Nvidia Technologie erreicht, oder?
Oder gibt es da mittlerweile mehr Erkenntnisse?
Was es aber bedeuten kann, dass auch andere KI Hardware Beschleuniger abseits von Nvidia neue Anwendungsfelder erschliessen oder es gar Newcomern vielleicht einfacher macht auf den Markt zu treten. Das wird Kosten noch weiter senken.
Aber wer kommt gegen das CUDA Universum an?
Ich glaube bevor das passiert, hat Europa sein eigenes DeepSeeker Modell selbst entwickelt.
Hardware aus Europa? Mmmhmh...
Gruss,
TNT
(Kleines) zweites Leben fuer RDNA3 in AI?
[Falls AMD Benchmarks so zutreffen]
#DeepSeek

Fine AI wine, RDNA3 indeed

Wenn sich das bestaetigt - Respekt!
#DeepSeek, #AI Disruption
https://wccftech.com/amd-radeon-rx-...rtx-4090-in-deepseeks-ai-inference-benchmark/
community.amd.com
A very very short Video dazu:
Not so ganz short:
Hier AMD aber mal recht fix dabei und zeigt den verfuegbaren Nvidia Loesungen in diesem Fall eine kleine lange Nase.
Gruss,
TNT
PS.
Wer mag es...
[Falls AMD Benchmarks so zutreffen]
#DeepSeek

Fine AI wine, RDNA3 indeed

Wenn sich das bestaetigt - Respekt!
#DeepSeek, #AI Disruption
https://wccftech.com/amd-radeon-rx-...rtx-4090-in-deepseeks-ai-inference-benchmark/
Experience the DeepSeek R1 Distilled 'Reasoning' Models on AMD Ryzen™ AI and Radeon™
Reasoning models are a new class of large language models (LLMs) designed to tackle highly complex tasks by employing chain-of-thought (CoT) reasoning with the tradeoff of taking longer to respond. The DeepSeek R1 is a recently released frontier “reasoning” model which has been distilled into...
A very very short Video dazu:
Not so ganz short:
Hier AMD aber mal recht fix dabei und zeigt den verfuegbaren Nvidia Loesungen in diesem Fall eine kleine lange Nase.
Gruss,
TNT
PS.
Wer mag es...
Zuletzt bearbeitet:
E555user
Admiral Special
- Mitglied seit
- 05.10.2015
- Beiträge
- 2.000
- Renomée
- 843
Schön dass AMD so schnell auf den Deepseek Hype aufspringen kann.
Man darf hoffen, dass die noch weiteren HW-Support bald listen werden... vielleicht auch noch für ältere GPUs.
Die kleineren Ryzen AI gibt es scheinbar offiziell nur bis 32GB RAM, mehr müsste da doch auch möglich sein.
*= AMD recommends running all distills in Q4 K M quantization.
1= Requires Variable Graphics Memory set to Custom: 24GB.
2= Requires Variable Graphics Memory set to High.
*= AMD recommends running all distills in Q4 K M quantization.
1= Lists the maximum supported distill without partial GPU offload.
PS: das LM Studio ist etwas unklar in der Nutzung, es lässt sich für mich nicht erkennen mit welcher Hardware letztlich gerechnet wurde, zwar werden CPU und GPU erkannt, aber eine Auslastung ist in keinem Fall erkennbar bzw. angezeigt. Sollte da nicht mehr als 1-2% Last mit dem Deepseek R1 entstehen?
... Musste mal offline das testen um sicher zu gehen, eine Radeon VII geht mit dem deepseek-r1-distill-llama-8b in die Vollauslastung und spuckt munter die Antworten, die CPU bleibt dann unbewegt, auch die GPU im Taskmanager, der Monitor im Treiber zeigt die Last jedoch an. Der von AMD für ältere APU empfohlene DeepSeek-R1-Distill-Llama-14B ist leider nicht zu finden.
Man darf hoffen, dass die noch weiteren HW-Support bald listen werden... vielleicht auch noch für ältere GPUs.
Die kleineren Ryzen AI gibt es scheinbar offiziell nur bis 32GB RAM, mehr müsste da doch auch möglich sein.
Processor | DeepSeek R1 Distill* (Max Supported) |
AMD Ryzen™ AI Max+ 395 32GB1, 64 GB2 and 128 GB | DeepSeek-R1-Distill-Llama-70B (64GB and 128GB only) DeepSeek-R1-Distill-Qwen-32B |
AMD Ryzen™ AI HX 370 and 365 24GB and 32 GB | DeepSeek-R1-Distill-Qwen-14B |
AMD Ryzen™ 8040 and Ryzen™ 7040 32 GB | DeepSeek-R1-Distill-Llama-14B |
*= AMD recommends running all distills in Q4 K M quantization.
1= Requires Variable Graphics Memory set to Custom: 24GB.
2= Requires Variable Graphics Memory set to High.
Graphics Card | DeepSeek R1 Distill* (Max Supported1) |
AMD Radeon™ RX 7900 XTX | DeepSeek-R1-Distill-Qwen-32B |
AMD Radeon™ RX 7900 XT | DeepSeek-R1-Distill-Qwen-14B |
AMD Radeon™ RX 7900 GRE | DeepSeek-R1-Distill-Qwen-14B |
AMD Radeon™ RX 7800 XT | DeepSeek-R1-Distill-Qwen-14B |
AMD Radeon™ RX 7700 XT | DeepSeek-R1-Distill-Qwen-14B |
AMD Radeon™ RX 7600 XT | DeepSeek-R1-Distill-Qwen-14B |
AMD Radeon™ RX 7600 | DeepSeek-R1-Distill-Llama-8B |
*= AMD recommends running all distills in Q4 K M quantization.
1= Lists the maximum supported distill without partial GPU offload.
PS: das LM Studio ist etwas unklar in der Nutzung, es lässt sich für mich nicht erkennen mit welcher Hardware letztlich gerechnet wurde, zwar werden CPU und GPU erkannt, aber eine Auslastung ist in keinem Fall erkennbar bzw. angezeigt. Sollte da nicht mehr als 1-2% Last mit dem Deepseek R1 entstehen?
... Musste mal offline das testen um sicher zu gehen, eine Radeon VII geht mit dem deepseek-r1-distill-llama-8b in die Vollauslastung und spuckt munter die Antworten, die CPU bleibt dann unbewegt, auch die GPU im Taskmanager, der Monitor im Treiber zeigt die Last jedoch an. Der von AMD für ältere APU empfohlene DeepSeek-R1-Distill-Llama-14B ist leider nicht zu finden.
Zuletzt bearbeitet:
sompe
Grand Admiral Special
- Mitglied seit
- 09.02.2009
- Beiträge
- 15.327
- Renomée
- 2.344
- Mein Laptop
- Dell G5 15 SE 5505 Eclipse Black
- Details zu meinem Desktop
- Prozessor
- AMD Ryzen 9 3950X
- Mainboard
- MSI MPG X570 GAMING PRO CARBON WIFI
- Kühlung
- Wasserkühlung
- Speicher
- 4x 16 GB G.Skill Trident Z RGB, DDR4-3200, CL14
- Grafikprozessor
- AMD Radeon RX 6900 XT
- Display
- 1x 32" LG 32UD89-W + 1x 24" Dell Ultrasharp 2405FPW
- SSD
- Samsung SSD 980 PRO 1TB, Crucial MX500 500GB, Intel 600p 512GB, Intel 600p 1TB
- HDD
- Western Digital WD Red 2 & 3TB
- Optisches Laufwerk
- LG GGC-H20L
- Soundkarte
- onboard
- Gehäuse
- Thermaltake Armor
- Netzteil
- be quiet! Dark Power Pro 11 1000W
- Betriebssystem
- Windows 10 Professional, Windows 7 Professional 64 Bit, Ubuntu 20.04 LTS
- Webbrowser
- Firefox
Bei den ganzen AI Benchmarks mit Desktop Hardware bin ich eher vorsichtig da vor allem komplexere Modelle ziemliche Speicherfresser sein sollen und damit die Karte mit dem größeren VRAM einen erheblichen Vorteil hat.
Womöglich Bencht man am Ende weniger die Rechenleistung an sich als vielmehr den VRAM und dessen Anbindung.....
Womöglich Bencht man am Ende weniger die Rechenleistung an sich als vielmehr den VRAM und dessen Anbindung.....
Das zeigt sich an dem Fall bei dem eine AMD Halo Strix APU mit zur Seite gestellten 128GB Speicher Schlitten mit einer RTX4090 laut AMD faehrt.Womöglich Bencht man am Ende weniger die Rechenleistung an sich als vielmehr den VRAM und dessen Anbindung....
Gruss,
TNT
Zuletzt bearbeitet:
NEO83
Grand Admiral Special
- Mitglied seit
- 19.01.2016
- Beiträge
- 4.862
- Renomée
- 726
- Standort
- Wilhelmshaven
- BOINC-Statistiken
- Mein Desktopsystem
- Kraftprotz
- Mein Laptop
- ASUS TUF A17 @R9 7940HS @RTX4070 @EndeavourOS
- Details zu meinem Desktop
- Prozessor
- R9 7940HX
- Mainboard
- BD790i SE
- Kühlung
- Build-In
- Speicher
- Kingston FURY Impact 64GB, DDR5-5600, CL40-40-40
- Grafikprozessor
- PNY GeForce RTX 4080 XLR8 Gaming Verto Epic-X
- Display
- MSI MAG 274UPFDE @UHD @144Hz
- SSD
- WD_BLACK SN850X 1TB, WD_BLACK SN850X 2TB
- Optisches Laufwerk
- USB BD-Brenner
- Soundkarte
- Onboard
- Netzteil
- ASUS ROG Loki 1000W Platinum SFX-L
- Tastatur
- Logitech G815
- Maus
- Logitech G502 SE Lightspeed
- Betriebssystem
- Windows 11 64Bit
- Webbrowser
- FireFox
- Internetanbindung
- ▼1,15GBit ▲56MBit
Naja aber wenn die Anschaffungskosten der APU gleich der einer RTX4090 sind spielt es ja keine Rolle 
Wie hoch ist mein Invest für gleiche oder bessere Leistung und bei der RTX fehlt ja noch der ganze Unterbau
Aber mal abwarten, gibt ja einiges an Theater aktuell um DeepSeek weil es angeblich mit Daten von OpenAI trainiert wurde ... wenn der Dieb sich beschwert sein ihm sein Diebesgut geklaut wurde xD

Wie hoch ist mein Invest für gleiche oder bessere Leistung und bei der RTX fehlt ja noch der ganze Unterbau

Aber mal abwarten, gibt ja einiges an Theater aktuell um DeepSeek weil es angeblich mit Daten von OpenAI trainiert wurde ... wenn der Dieb sich beschwert sein ihm sein Diebesgut geklaut wurde xD
Natuerlich - aber darum geht es nicht, sondern, dass eine APU es schaffen kann in Einzelfaellen einer dicken GPU den Rang abzulaufen.Naja aber wenn die Anschaffungskosten der APU gleich der einer RTX4090 sind spielt es ja keine Rolle![]()
BTW Ryzen AI MAX + etc. wird anfangs sicher nicht in Discount Modellen finden aber da war die RTX 4090 auch nie.
Gruss,
TNT
sompe
Grand Admiral Special
- Mitglied seit
- 09.02.2009
- Beiträge
- 15.327
- Renomée
- 2.344
- Mein Laptop
- Dell G5 15 SE 5505 Eclipse Black
- Details zu meinem Desktop
- Prozessor
- AMD Ryzen 9 3950X
- Mainboard
- MSI MPG X570 GAMING PRO CARBON WIFI
- Kühlung
- Wasserkühlung
- Speicher
- 4x 16 GB G.Skill Trident Z RGB, DDR4-3200, CL14
- Grafikprozessor
- AMD Radeon RX 6900 XT
- Display
- 1x 32" LG 32UD89-W + 1x 24" Dell Ultrasharp 2405FPW
- SSD
- Samsung SSD 980 PRO 1TB, Crucial MX500 500GB, Intel 600p 512GB, Intel 600p 1TB
- HDD
- Western Digital WD Red 2 & 3TB
- Optisches Laufwerk
- LG GGC-H20L
- Soundkarte
- onboard
- Gehäuse
- Thermaltake Armor
- Netzteil
- be quiet! Dark Power Pro 11 1000W
- Betriebssystem
- Windows 10 Professional, Windows 7 Professional 64 Bit, Ubuntu 20.04 LTS
- Webbrowser
- Firefox
Es zeigt einfach nur wie ungeeignet Desktop Karten dafür sind, die richtigen AI Beschleuniger haben nicht umsonst so viel Speicher verbaut. Das ist als würde man ne 4090 mit 1,5 GB VRAM ausstatten. Mit der gewinnt man wegen der Auslagerorgie in den RAM keinen Blumentopf mehr da man wegen der Bandbreitenlimitierung auf IGP Niveau runterfällt.
Die Anschaffungskosten sind aber auch nicht alles, so ein Ryzen AI MAX + System ist erheblich kleiner und sparsamer.
Die Anschaffungskosten sind aber auch nicht alles, so ein Ryzen AI MAX + System ist erheblich kleiner und sparsamer.
NEO83
Grand Admiral Special
- Mitglied seit
- 19.01.2016
- Beiträge
- 4.862
- Renomée
- 726
- Standort
- Wilhelmshaven
- BOINC-Statistiken
- Mein Desktopsystem
- Kraftprotz
- Mein Laptop
- ASUS TUF A17 @R9 7940HS @RTX4070 @EndeavourOS
- Details zu meinem Desktop
- Prozessor
- R9 7940HX
- Mainboard
- BD790i SE
- Kühlung
- Build-In
- Speicher
- Kingston FURY Impact 64GB, DDR5-5600, CL40-40-40
- Grafikprozessor
- PNY GeForce RTX 4080 XLR8 Gaming Verto Epic-X
- Display
- MSI MAG 274UPFDE @UHD @144Hz
- SSD
- WD_BLACK SN850X 1TB, WD_BLACK SN850X 2TB
- Optisches Laufwerk
- USB BD-Brenner
- Soundkarte
- Onboard
- Netzteil
- ASUS ROG Loki 1000W Platinum SFX-L
- Tastatur
- Logitech G815
- Maus
- Logitech G502 SE Lightspeed
- Betriebssystem
- Windows 11 64Bit
- Webbrowser
- FireFox
- Internetanbindung
- ▼1,15GBit ▲56MBit
Halten wir einfach fest, das es durchaus Sinn machen kann sich so ein Gerät anstatt einer RTX4090/RTX5090 zu kaufen da die Anschaffungs und Unterhaltskosten einfach geringer sind 

Ähnliche Themen
- Antworten
- 878
- Aufrufe
- 67K
- Antworten
- 0
- Aufrufe
- 2K
- Antworten
- 0
- Aufrufe
- 1K
- Antworten
- 794
- Aufrufe
- 110K