News AMD Ryzen AI (Pro) 400 verspätet: Im Desktop muss man nun doch bis zum Q3 warten

[SysteMart]

Habe ich die Informationen zum Sockel überlesen? Es geht schon um AM5 oder sind die CPU's BGA?

 

[DonQuichote]

Via LM_Studio auf Radeon 9070 XT / AM4 / 5800X3D mit 32 GB RAM:
Gemma 4 26B A4B Q4 ist so zienlich das Größte was ich noch vernünftig zum Laufen bekomme. Und da muss ich schon zwischen Kontext und Layer hin und her lavieren.

31B passt schon nicht mehr in den VRAM, ausser so kastriert dass es keinen Spass mehr macht.

Ministral 3 14B Q4 läuft zienlich flott, kann aber mit der Qualität der grösseren Modellen nicht mithalten.

Hab mir von Gemma für Websuche, Systemressourcen via MCP kleine js-scripts schreiben lassen. Das hat funktioniert obwohl ich keine Ahnung habe. Auch so Sachen wie HWInfo Sensordaten im Sekundentakt auslesen, so dass das Modell bei Bedarf darauf zugreifen kann. Oder get_system_time damit das Modell nicht immer behauptet, Artikel mit aktuellem Zeitstempel seien fake.

Nur ca. 50% der Anfragen für Websuche werden von google.search bot detection gesperrt.

Wozu das aktuell gut ist? Keine Ahnung. Hat mich nur interessiert was die Hardware ausser 100 fps auf QHD bei Forza sonst noch kann. Privat habe ich recht wenige, so grosse Dokumente, dass ich den Inhalt nicht schneller erfassen kann, als ich das in den prompt gepackt habe. Die nächste NK-Abrechnung werd ich dem Modell vor die Füsse werfen.

Aber und obwohl wir das in meinem Arbeitsbereich (Logistik/Ops) noch nicht so nutzen, wird das kommen.
Lt. meiner Erfahrung sind die Angebote aktuell noch nicht so rund, dass sie ohnen grösseren Auwand zuverlässig funktionieren und on the fly in die Arbeitsabläufe eingebunden werden können. Cloud-basiert ist mit privacy policy Problemen behaftet und wird auf absehbare Zeit zu erhöhten Aufwand im Controlling und Kosten führen, welche den Nutzen relativieren.

Aber z.b. Sales liebt die KI bereits. sowohl die lokalen Modelle als auch die Hardware werden immer leistungsfähiger. Und im Verhältnis dazu wird, trotz Chipkrise, auch die Hardware immer günstiger.
Ich behaupte mal, in 5 Jahren ist es eher die Regel als die Ausnahme, dass selbst bei kleinen Handwerksbetrieben ein LLM Server steht. So wie heute der Netzwerkserver. Und zumindest Buchhaltung und Dokumentenmanagment übernimmt und bei administrativen Aufgaben unterstützt (+...).

Jedenfalls, falls grün/rot/blau bald keinen Bock mehr haben Consumer-Karten zu designen, können wir uns immer noch die Nebenprodukte der KI Hardwarenetwicklung auf's Mainboard klemmen und so den PC am leben halten.

 

[blackiwid]

Tja wenn die Leute wüsssten wie einfach mittlerweile Lokale LLM laufen lassen kann und was man sinnvolles damit machen kann dann sehe das anders aus.

Das mag zwar allgemein stimmen, aber A ist es nicht sooo einfach brauchst quasi nen Gaming PC den du nur wegen dem Mist laufen lassen musst, hab das extra getrennt und arbeite auf nem Deskmini mit IGP, aber selbst wenn gings ja um einen NPU Prozessor nicht um ne Grafikkartennews und auf dieser NPU läuft kein LLM.

Das einzige wo es vielleicht Sinn macht in dem Produkt ist A Notebook um Strom zu sparen weil selbst die Grüppel IGP ist vermutlich schneller als die NPU und B um vielleicht irgendwelche Small Language Sachen laufen zu lassen und dafür gibts genau 0 momentan für Endnutzer.

 

[aid0nex]

Tja wenn die Leute wüsssten wie einfach mittlerweile Lokale LLM laufen lassen kann und was man sinnvolles damit machen kann dann sehe das anders aus.

Durchaus richtig, aber: Dafür braucht man keine Hardware mit AI Label.

 

[DiePalme]

Dafür braucht man keine Hardware mit AI Label.

Doch doch... unbedingt... ohne das Label funktioniert AI doch gar nicht
Ja, es ist schon albern, was man mittlerweile alles mit dem AI Label macht. Aber wenn es nicht drauf ist, verkauft es sich schlechter. Ist leider so.

 

[Alesis]

AMD hat also keine Ressourcen, Strix Point mit Ryzen AI 400 Mütze und entsprechender Verpackung zu bringen.
@SysteMart
Ja, die APUs für AM5. Strix Point aus dem Notebook, der umbenannt wird in Gorgon Point und nun auch für AM5 kommen wird.

 

[herrStreusalz]

Ja, es ist schon albern, was man mittlerweile alles mit dem AI Label macht

Als nächstes werden Gehäuse mit AI-Holz vorgestellt...

 

[Staubwedel]

AI im CPU ist mir wurscht

Aber wie siehts mit der iGPU-Grafikpower aus im Vergleich zu meinem 8600G?

 

[Freiheraus]

Also ich vermisse diese APU nicht, nur 4C+4c Zen5, 8 CUs iGPU, komplett am Consumer vorbei. Gar ein Rückschritt zum 8700G. Braucht von mir aus gar nicht kommen. Preise werden auch nicht angemessen sein.

 

[Alesis]

zu meinem 8600G?

Bis jetzt gibt es maximal nur 512 Shader. Zwar RDNA 3.5, aber das wird keinen Unterschied zu deinen 512 RDNA 3 Shader geben. RDNA 3.5 ist auf weniger Leistungsaufnahme getrimmt worden. Also mit weniger Lesitungsaufnahme die gleiche Lesitungsentfaltung für die RDNA 3 mehr Leistungaufnahme braucht. Halt für Notebooks/Handheld.

 

[Araska]

Ja, die 8 CUs sind ein wenig mager...

 

[Staubwedel]

Da kann man derzeit wohl nicht ausschließen dass die nächste Intel-Generation für den Desktop besser wird bzgl. iGPU ....

 

[Alesis]

@Staubwedel
Meinst du mit Nova Lake? Denn diese iGPU wird weit weg von einer 370/390 sein.

 

[UrlaubMitStalin]

Da steht nirgends was vom Sockel... AM5 oder verlötet?

 

[Alesis]

@UrlaubMitStalin
Wenn man im Desktop bis Q3 warten muss, welche Basis wird wohl damit gemeint sein?

 

[Staubwedel]

Denn diese iGPU wird weit weg von einer 370/390 sein.

Du schreibts nicht in welcher Richtung

Ich hab mal verschiedene Systeme leicht gebencht, 3DMark 2.x, Steel Nomad, DDR5-5600 Dual Channel:

8600G: 414 Punkte
245K: 379 Punkte

Der 245K ist näher als ich dachte, besonders der Fortschritt gegenüber der iGPU des I5-14500 zeigt den Fortschritt, der schaffte nur 75 Punkte (DDR5-4800 Dual Channel)

 

[Alesis]

@Staubwedel
Ich bin bei deinem Kommentar von der nächsten Intel Gen davon ausgegangen, dass du Nova meinst. Nova iGPU wird sicherlich Verbesserungen bringen, aber keine Zocker iGPU sein.

 

[Staubwedel]

Mein 8600G ist gut, aber man erwartet vom AI Pro 400 nicht wirklich Mehrleistung

Daher bin ich auf den Vergleich mit der Konkurrenz gespannt

Mir kommt es so vor als würde AMD uns mal wieder vergessen und nur schauen was man den OEMs verkaufen kann.

 

[RealMax123]

AI lasst diesen Mist einfach weg
Kenne bis jetzt keinen der gezielt deswegen solche Produkte kauft bzw gezielt sucht... , im Privaten/Consumer Bereich werden das eh 99% nie brauchen . Der "sinnvolle" Nutzen ist aktuell einfach nicht gegeben .

Für die NPU gibt es aktuell zwar keinen sinnvollen Einsatzzweck, aber das ist heutzutage eben eine Gratiszugabe.

 

[Hardware-Fan]

Mein 8600G ist gut, aber man erwartet vom AI Pro 400 nicht wirklich Mehrleistung

Da steckt ZEN 5 drin, da kann man schon Mehrleistung erwarten. Das zeigt ja auch der Vergleich mit dem Core 265, wo der Ryzen AI 7 450 schneller ist.

das klingt aber sehr klein. Ich dachte eher etwas brauchbares braucht Minimum 80B+ wie z.B. Gwen3-Coder-Next. Und das sollte dann natürlich ohne Quantisierung in den VRAM passen.

Man muss zwar nicht alles wissen, aber wenn man sooo wenig von einem Thema versteht, könnte man sich mit "Thesen raus hauen" und eigenen Bewertungen auch zurück halten (du schreibst da wirklich groben Unsinn - dreifach!).