News AMD Ryzen AI (Pro) 400 verspätet: Im Desktop muss man nun doch bis zum Q3 warten

Volker

Ost 1
Teammitglied
Registriert
Juni 2001
Beiträge
20.077
AI lasst diesen Mist einfach weg :grr:
Kenne bis jetzt keinen der gezielt deswegen solche Produkte kauft bzw gezielt sucht... , im Privaten/Consumer Bereich werden das eh 99% nie brauchen . Der "sinnvolle" Nutzen ist aktuell einfach nicht gegeben .
 
  • Gefällt mir
Reaktionen: Nagilum99, KeinNutzerName und the_IT_Guy
Papabär schrieb:
AI lasst diesen Mist einfach weg :grr:
Kenne bis jetzt keinen der gezielt deswegen solche Produkte kauft bzw gezielt sucht... , im Privaten/Consumer Bereich werden das eh 99% nie brauchen . Der "sinnvolle" Nutzen ist aktuell einfach nich gegeben .
Tja wenn die Leute wüsssten wie einfach mittlerweile Lokale LLM laufen lassen kann und was man sinnvolles damit machen kann dann sehe das anders aus.
 
  • Gefällt mir
Reaktionen: person unknown
TempeltonPeck schrieb:
Tja wenn die Leute wüsssten wie einfach mittlerweile Lokale LLM laufen lassen kann und was man sinnvolles damit machen kann dann sehe das anders aus.
Ja klar. Auch wenn es so einfach wäre, was will der Ottonormal User damit?
 
  • Gefällt mir
Reaktionen: Nagilum99, KeinNutzerName und Icke-ffm
Also AMD ist abseits vom Desktop und Server Bereich immer noch total verbesserungswürdig. Anders gibt es ja auch wenig Druck, die anderen Produkte verkaufen sich ja von alleine
 
TempeltonPeck schrieb:
Tja wenn die Leute wüsssten wie einfach mittlerweile Lokale LLM laufen lassen kann und was man sinnvolles damit machen kann dann sehe das anders aus.
und was soll man mit den Krüppeln als lokales LLM laufen lassen? Die Ryzen AI 400 CPU unterstützt war maximal 256GB RAM, womit schön große Modelle reinpassen, aber dann steht dem nur eine Krüppel-GPU mit 8CUs zur Verfügung. Damit kommt doch dann keine Performance auf?

Da finde ich die Ryzen AI Max mit 192GB und entsprechend potenter GPU besser: https://www.computerbase.de/news/pr...rodukt-mit-192-gbyte-ram-ist-offiziell.97447/

Ich hab allerdings auch noch keine eigenes, lokales LLM aufgebaut, muss ich gestehen. Ich sehe nur, dass man halt MEHR als 128GB braucht, um mit aktuellen API Modellen halbwegs mithalten zu können und natürlich braucht es noch ordentlich TOPs, damt man nicht ewig warten muss.
 
Aerobraking schrieb:
@TempeltonPeck Kannst du da zufällig ein paar Stichwörter droppen? Wollte mich mit dem Thema bald auch auseinandersetzen.
LM Studio. Damit lassen sich einfach LLM lokal auf dem Rechner laufen.
rentex schrieb:
Ja klar. Auch wenn es so einfach wäre, was will der Ottonormal User damit?
Im Prinzip alles was Ottonormal User bei ChatGPT & Co ein gibt und die Firmen schön mit seinen Daten füttert.

Also als Ideengeber, Datenverwalter (Listen erstellen, CSVs usw), Agent zur umfangreichen Websuche, Hilfe Steller z.B prüfen von AGBs. Man kann so viel damit machen auch Normalos. Man muss nur wissen wie man richtig mit der LLM Interagiert. So wie man wissen muss wie man Google am besten nutzt.
 
Ich bin bei den aktuellen Produktnamen nicht auf Stand...
Das sind aber nicht die ZEN 6 Nachfolger der 9000er Serie, oder doch?
 
Redirion schrieb:
und was soll man mit den Krüppeln als lokales LLM laufen lassen? Die Ryzen AI 400 CPU unterstützt war maximal 256GB RAM, womit schön große Modelle reinpassen, aber dann steht dem nur eine Krüppel-GPU mit 8CUs zur Verfügung. Damit kommt doch dann keine Performance auf?

Da finde ich die Ryzen AI Max mit 192GB und entsprechend potenter GPU besser: https://www.computerbase.de/news/pr...rodukt-mit-192-gbyte-ram-ist-offiziell.97447/

Ich hab allerdings auch noch keine eigenes, lokales LLM aufgebaut, muss ich gestehen. Ich sehe nur, dass man halt MEHR als 128GB braucht, um mit aktuellen API Modellen halbwegs mithalten zu können und natürlich braucht es noch ordentlich TOPs, damt man nicht ewig warten muss.
Ich hab eine 7900XTX und 32GM RAM. Da laufen gut mittelgroße LLM mit um die 30B Parametern. Es gibt aber auch kleinere 2-8B mit denen man auch was Anfangen kann. Zum Vergleich die richtig großen haben 72B+ Parameter.
 
konkretor schrieb:
Also AMD ist abseits vom Desktop und Server Bereich immer noch total verbesserungswürdig. Anders gibt es ja auch wenig Druck, die anderen Produkte verkaufen sich ja von alleine
In wie fern?
Den mittelklassigen Ryzen AI 7 350 vom letzten Jahr findest du in Laptops ab 700€. Die bieten eine Leistung Auf Augenhöhe zum neuen Intel Ultra 356h (und hat die deutlich stärkere iGPU), der aktuell nur in Geräten ab mindestens 1500€ verbaut ist. Dazu ist der Ryzen vermutlich trotz "veraltetem" 4nm Verfahren noch der effizientere Chip.

Ist also definitiv nicht so...
 
TempeltonPeck schrieb:
Im Prinzip alles was Ottonormal User bei ChatGPT & Co ein gibt und die Firmen schön mit seinen Daten füttert.
Da fängt es ja schon an. Für Ottonormaluser, gibt es keinen Usecase.
 
Ranayna schrieb:
Ich bin bei den aktuellen Produktnamen nicht auf Stand...
Das sind aber nicht die ZEN 6 Nachfolger der 9000er Serie, oder doch?
Nein, das sind die gesockelten Zen 5 APUs, die es bislang nur für Notebooks und Mini-PCs (also verlötet) gibt.
 
  • Gefällt mir
Reaktionen: Ranayna
rentex schrieb:
Da fängt es ja schon an. Für Ottonormaluser, gibt es keinen Usecase.
Vielleicht keinen allgemein gültigen aber gerade die Jungen nutzen KI-Chat Agents massiv. Was für uns Suchmaschinen fürs Web waren sind für die ChatGPT und co.
 
@TempeltonPeck Ich rede hier eigentlich über die Anwendung, die, die ganzen Milliarden Investitionen in KI rechtfertigt.
 
TempeltonPeck schrieb:
Ich hab eine 7900XTX und 32GM RAM. Da laufen gut mittelgroße LLM mit um die 30B Parametern. Es gibt aber auch kleinere 2-8B mit denen man auch was Anfangen kann. Zum Vergleich die richtig großen haben 72B+ Parameter.
das klingt aber sehr klein. Ich dachte eher etwas brauchbares braucht Minimum 80B+ wie z.B. Gwen3-Coder-Next. Und das sollte dann natürlich ohne Quantisierung in den VRAM passen.

Beim 128GB DGX Spark passt von dem 80B Modell nur eine quantifizierte Version rein:
https://huggingface.co/saricles/Qwen3-Coder-Next-NVFP4-GB10
 
Zuletzt bearbeitet:
Ich denke AMD hat da vielleicht noch abgewartet, was NVidia da mit ihrer Erstlings-CPU machen werden. Wobei auch die zunächst die mobilen geräte bevorzugen zu scheinen.
 
@rentex
Wenn ich sehe, wo und wie viel KI wir mittlerweile in der Firma verwenden und dadurch enorme Zeitersparnisse haben, finde ich KI super. Die gesamte Einkaufs- und Produktionsplanung erfolgt per KI. Die kann das wesentlich genauer und effizienter als ein üblicher EInkäufer oder Manger. Die haben jetzt die Freiheiten, nur noch kontrollieren zu müssen und sich auf Sonderfälle besser und umfangreicher konzentrieren zu können. Das Lagersystem wird mit KI arbeiten und wesentlich effizienter und schneller sein. In fast jedem Bereich erhält KI bei uns aktuell Einzug und es ist verrückt, wie einfach und schnell plötzlich alles wird. Wir werden uns selbst einen KI Server anschaffen, weil es kostengünstiger ist, als es extern laufen zu lassen.
Es gibt extrem viel was man mit KI machen kann. Und ich sag dir jetzt schon, Firmen die nicht auf KI setzen, werden ganz schnell und bald ganz stark im Nachteil gegenüber der Konkurrenz sein.
 
rentex schrieb:
@TempeltonPeck Ich rede hier eigentlich über die Anwendung, die, die ganzen Milliarden Investitionen in KI rechtfertigt.
Denkfehler. Die kleinen KI-APUs sind quasi die Reste mit denen noch weiter verkauft werden. Wie bei der CPU oder GPU Entwicklung. Erst das Ultra-Flagschiff entwickeln und dann wird für jeden Anwendungsfall abgespeckt. Ob sich insgesamt die Ausgaben gelohnt haben werden wir später sehen. Jedenfalls passiert gerade sehr viel im Hintergrund bei Firmen mittels lokalen KI Einsatz. Auch im Mittelstand. Der Zwang nach Effizienzsteigerung und Demografischer Wandel zwingen sie dazu.
Redirion schrieb:
das klingt aber sehr klein. Ich dachte eher etwas brauchbares braucht Minimum 80B+ wie z.B. Gwen3-Coder-Next. Und das sollte dann natürlich ohne Quantisierung in den VRAM passen.

Beim 128GB DGX Spark passt von dem 80B Modell nur eine quantifizierte Version rein:
https://huggingface.co/saricles/Qwen3-Coder-Next-NVFP4-GB10
Was heißt brauchbar? Hast du schon mit verschiedenen Modellen gearbeitet. Ich schon und kann dir sagen das auch die "kleinen" Modelle was können. Es kommt halt immer auf den Anwendungsfall an. Außerdem tendieren die großen Modelle beim Reasoning sich öffter im Kreis zu drehen als die kleinen. Desweiteren ist der Zugewinn bei großer Quantetsierung oft zu vernachlässigen.
 
mir fehlt hier tatsächlich bisher die Erfahrung. Ich weiß nur, dass ich praktisch mehr "Mensch-Maschine-Iterationen" brauche, wenn Github Copilot in der Auto-Modellauswahl mal wieder ein Mini-Modell hat antworten lassen.
 
Zurück
Oben