News AMD Ryzen AI 5 330: APU kombiniert einen großen Zen-Kern mit starker NPU

[NameHere]

@Philste und auf einem Smartphone Chip als Vergleich?

 

[R4nd0]

Sicher? Laut Github ist da noch nichts implementiert.

Im Linux Kernel 6.14 hat AMD die Treiber integriert, das dürfte bald implementiert sein.

 

[ETI1120]

Das ist einfach erklärt: NPUs sind hocheffizient beim ausführen von neuronalen Netzwerken, können sonst aber gar nichts. GPUs sind viel allgemeiner und vielseitiger nutzbar, aber eben weniger effizient.

Bei AMD ist die NPU eine DataFlow-Architecture mit VLIW-Vektorprozessoren in jedem Tile. Diese Architektur passt sehr gut auf die Machine Learning Algorithmen. Aber es gibt auch andere Algorithmen die von dieser Architektur profitieren könnten.

Der Haken an der ganzen Sache ist das Software für diese Art von Architektur zu schreiben, nicht trivial ist. Also wurde bisher vor allem die Machine Learning FrameWorks implementiert.

AFAIU fehlt hier auch noch die vollständige Integration in ROCm, so dass ROCm auf einer APU die Berechnungen auf Ryzen AI schieben kann.

https://riallto.ai/ryzenai_video_overview.html

Da die ganze Sache von Xilinx kommt, gibt es eigentlich sehr viel Dokumentation.

Genau damit hat AMD auch bislang begründet, dass die Desktop-Ryzen keine NPU haben.

Die Argumente von AMD ändern sich sehr schnell, sobald sie die verfügbare Hardware haben.

Von der absoluten Performance werden die NPUs nicht mit einer dGPU mithalten können. Aber es wird sehr viele Tasks für ML geben, denen die Performance der NPU vollauf genügt.

Während der Computex Präsentation hat AMD eine Demo mit chinesischer Spracheingabe und Übersetzung nach englisch inklusive Sprachausgabe gezeigt. AMD sagt sie lief auf Ryzen AI.

 

[stefan92x]

Die Argumente von AMD ändern sich sehr schnell, sobald sie die verfügbare Hardware haben.

Klar. Ich werde absolut nicht überrascht sein, wenn der Zen 6 Desktop-Chip auch eine NPU bekommt und AMD haufenweise Argumente hat, warum das jetzt aber unbedingt nötig ist, und jeder diese brauchen wird.

 

[Deinorius]

Bitte gerne mal etwas weniger CPU-Leistung und dafür die dickste iGPU.

Prinzipiell gerne, aber ich habe die Befürchtung, dass man dann kaum besser als mit einem Steam Deck sein wird, außer man möchte unbedingt mehr CPU-Leistung für Emulation. Zumindest wenn man von 4C8T ausgeht, um den es hier geht.
Gehen wir Richtung APUs mit mind. 12CU, dann wäre es wieder interessant, wie viel 6C12T mit praktikablen Einstellungen im Vergleich zu der niedrigeren Anzahl wirklich bringen. Aber wir kommen dann in Preisregionen, wo man weniger als 6C12T nicht akzeptiert (und auch nicht akzeptieren sollte). Ob es dann 8C16T braucht, ist wieder eine andere gute Frage, aber auch nur, wenn das Gerät wirklich nur für Gaming eingesetzt wird, sonst findet man auch andere Einsatzzwecke.

Sehe ich nicht so. Aber im Prinzip hängt es natürlich auch erstmal davon ab, was die Kerne auch leisten können.

Welche Leistung soll für Büromaschinen fehlen? Whiskey Lake, was ich selber im Laptop verwende, ist definitiv ausreichend, außer du definierst in der Hinsicht, ob Lüfter häufiger laufen müssen, weil die CPU nicht schnell genug wieder im Idle ist.
Auf jeden Fall spielen mehr als 4C8T im Büro selten eine nennenswerte Rolle, wenn man nicht spezielle Anwendungen braucht und dann kauft man grundsätzlich andere Hardware.

Wäre aber 2*Z5 und 2*Z5c nicht sinniger gewesen.

Nein. Das hätte den Platzbedarf erhöht und für den Einsatzbereich keine relevante Leistung hinzugefügt.
Ich bin ja schon froh, dass nicht nur Zen5c eingesetzt wurden.

Scheinbar nicht, oder warum verbaut Asus dann zwei Grafikkarten im Prozessor?

Ich verstehe den Satz nicht. Meinst du eine iGPU und dGPU in Laptops?

was ich nur nicht verstehe, wieso AMD den nicht auch fűr den AM5 bringt, wãre die ideale einsteiger APU fůr Win11 und dank NPU auch die einzige Desktop APU die es bis dato gibt mit Copilot+ unterstűtzung

Bisherige APUs kommen ja erst auf AM5. Vielleicht wird dieser dann hinzugefügt.
Auf der anderen Seite hat AMD ja auch damit argumentiert, dass man Grafikkarten verwenden kann.
Wenn ich jetzt aber davon ausgehe, wofür dieser Chip designt wurde, dann würde ich mich sehr fragen, wieso sich jemand einen Mini-PC (ab €350 mit allem) damit erstellen sollte. Der sollte dann max. €60 (besser €50) kosten, sonst kann man sich auch gleich einen Laptop kaufen, falls Modelle mit dieser APU rund €400 veranschlagen.

 

[ETI1120]

Bitte gerne mal etwas weniger CPU-Leistung und dafür die dickste iGPU.

Und wie soll AMD diesen Chip in das Namensschema und in die Preisliste einordnen? Gemäß der kleinen CPU oder der großen GPU?

 

[stefan92x]

@ETI1120 Irgendein Buchstabe wird schon noch übrig sein im Alphabet, um das deutlich zu machen, dass die GPU größer ist und dann benennt AMD es nach der CPU. Die Nummernabstufung scheint nach meinem Gefühl meistens eher dem zu folgen als der GPU-Größe.

 

[ETI1120]

Irgendein Buchstabe wird schon noch übrig sein im Alphabet, um das deutlich zu machen, dass die GPU größer ist und dann benennt AMD es nach der CPU.

Wenn Du CPU und GPU in die Namesgebung einfließen lässt wirds nur noch verwirrender.
Und es ändert nichts am Problem: Was steht zuerst und wie bepreist AMD das ganze.

Und wenn Du einen Score baust in den CPU und GPU einfließen ist auch niemand zufrieden.

Der Punkt ist doch: Welchen zusätzlichen Markt erschließt so eine APU mit kleiner CPU und großer GPU?

 

[chithanh]

Bitte gerne mal etwas weniger CPU-Leistung und dafür die dickste iGPU.

Prinzipiell gerne, aber ich habe die Befürchtung, dass man dann kaum besser als mit einem Steam Deck sein wird

Bislang waren alle Ryzen-APUs (außer vielleicht Strix Halo, dazu habe ich noch keine Daten gesehen) von der Speicherbandbreite her limitiert. Auch das Steam Deck profitiert deutlich von Speicher-OC.

Eine dickere iGPU muss also mit mehr Speicherkanälen (wie z.B. bei Apple) oder anderweitig schnellerem Speicher (wie z.B. GDDR6) kombiniert werden, bevor das Sinn ergibt.

 

[crogge]

Wenn die CPU zumindest doppelt so schnell wie ein N100 ist, kann man damit leben.

Die iGPU ist grenzwertig, zumindest bei den normalen Desktop CPUs ohne "G" ist die iGPU wirklich langsam und ruckelt sogar im 2D Betrieb manchmal vor sich hin.

 

[Alesis]

Natürlich ist AMD auch gerne dabei nicht ganz sauber zu sein.
Der 8500G vermittelt mit 100 weniger zum 8600G sehr enge Nähe, ist aber massiv beschnitten. Frechheit
Zumindest kann man sich auf AMD die Specs anschauen.
Blau bedeutet, man kann es sich anschauen.

Den AI 330 eine 5 zu verpassen ist natürlich auch eine Frechheit und um dieser Frechheit noch die Sahne drauf zu setzen, kann man sich noch nicht einmal die Specs anschauen. Und ohne Fehler geht natürlich auch nichts. Mit 4 Kerne 12 Threads.

 

[stefan92x]

Wenn Du CPU und GPU in die Namesgebung einfließen lässt wirds nur noch verwirrender.
Und es ändert nichts am Problem: Was steht zuerst und wie bepreist AMD das ganze.

Eigentlich sehen wir genau das doch schon seit Jahren. Schauen wir nur mal auf die 8-Kerner, die AMD verkauft:
9800X3D
9700X
8700G
7800X3D
7700X
5800X3D
5800X
5700X3D
5700G
Acht Kerne sind also immer als x700/x800 benannt, je nach Leistungsniveau, und wenn es eine (große) iGPU gibt, dann wird das einfach mit dem G-Suffix benannt. Aber die Modellnummern gehen strikt nach Anzahl der CPU-Kerne.

Der Punkt ist doch: Welchen zusätzlichen Markt erschließt so eine APU mit kleiner CPU und großer GPU?

Van Gogh ist ja genau so ein Chip und hat das Gaming-Handheld quasi definiert. Genau für diesen Markt wäre das weiterhin technisch sinnvoller, als die üblichen Notebook-Chips dafür zu verwursten. Inwiefern die Stückzahlen dafür vorhanden sind, damit das auch kommerziell sinnvoller ist, bleibt aber natürlich eine andere Frage.

 

[AGB-Leser]

Ich finde es nicht schlecht, dass die Hersteller jetzt jeder CPU eine NPU mitgeben. Sonst scheitert es schon am Henne-Ei-Problem. So hat die Software wenigstens die Möglichkeit, etwas damit zu machen.
Wenn nur ein paar Exoten-CPUs eine NPU hätten, wäre es schon zum Scheitern verurteilt.

Jetzt heißt es abwarten, was daraus gemacht wird.
Ich sehe auch eine zunehmende Verlagerung der Rechenleistung in Richtung Cloud (Server).
Ich bin gespannt, ob die NPU da etwas gegensteuern kann.

Problematisch wird's nur, wenn die Architektur der NPU nicht überall identisch ist. So würden sich Programme, die eine NPU unterstützen, nur schwer verbreiten.

Ich verstehe den Satz nicht. Meinst du eine iGPU und dGPU in Laptops?

Eine Antwort auf Mavericks Aussage

 

[MaverickM]

warum verbaut Asus dann zwei Grafikkarten im Prozessor?

Haeh!?

Welche Leistung soll für Büromaschinen fehlen?

Schwuppdizität. 4-Kerner sind einfach nicht mehr Zeitgemäß. Klar könnte man diese 4 Kerne auch besonders hoch takten... Aber wird halt nicht gemacht, also bleiben die 4 Kerne für eh schon schwächere CPUs. Damit macht das Arbeiten keinen Spaß.

 

[foofoobar]

Wäre cool wenn das ein N100 Konkurrent wäre. Da gibt es von Intel schon tolle Maschinchen.
Die CPU mit 8x oder 12x 1x4.0 angebundene M.2 wäre eine richtig geile NAS Maschine

Eher nicht, lt. hier kein Support für ECC.
Und AMD müsste sich mal um CoreBoot dafür kümmern, OpenSIL braucht wohl auch noch etwas.

Kleine Kisten mit 15 W TDP, coreboot via serielle und ECC hätten schon was.

 

[Convert]

Also wenn das ein neuer Chip ist, finde ich den viel zu stark kastriert.

Phonix2 hatte 2x Zen 4 und 4 x Zen 4C in 6nm und 16MB Cache. Den Cache hätte man auf 12 MB reduzieren können und die CUs auf 2 CUs. Damit hätte man einen Teil der zusätzlichen Chipfläche für die NPU. Zusammen mit der 4nm-Fertigung wäre es möglich gewesen 2 Zen5 und 4x Zen 5C zu bringen:

Strix Point mit der NPU als Größenvergleich:

https://www.techpowerup.com/325035/amd-strix-point-silicon-pictured-and-annotated


Vermutlich wäre die Chipfläche etwas größer geworden, als bei Phonix 2, aber es wäre kein Downgrate. Später beim Wechsel auf 3nm oder 2nm hätte man das Die dann bei konstanter Kernzahl verkleinern können...

 

[RKCPU]

Klar. Ich werde absolut nicht überrascht sein, wenn der Zen 6 Desktop-Chip auch eine NPU bekommt und AMD haufenweise Argumente hat, warum das jetzt aber unbedingt nötig ist, und jeder diese brauchen wird.

Scheinbar wollen auch die Kunden eine Quadcore mit AI - zertifiziert nach Microsoft.

Er ist ein stark gestutzter Krakan Point wie es AMD selbst angibt.

Beim Zen 6 haben wir N3 als I/O Chip, der wird dann ähnlich zu APUs sein:

• NPU >50
• ab 6 CU GPU
• 2 Zen LP Cores

Würde mich nicht wundern wenn AMD noch einen Zen 5 Refresh mit AI bringt,
dann das kostengünstigere N4c.

 

[Convert]

Scheinbar wollen auch die Kunden eine Quadcore mit AI - zertifiziert nach Microsoft.

Mit "Kunden" meinst du wohl OEMs? Endkunden haben sich in letzter Zeit meistens für Ryzen 5 entschieden, weil es dort 6 Kerne gab. Also heißt die CPU, passend für den Endkunden, jetzt Ryzen AI 5 und der OEM bekommt aber dennoch einen günstigen Quadcore, denn der Endkunde eigentlich nicht will, daher ja auch der Irreführende Name.

AMD weiß auch, dass die hier den Endkunden ver*schen und deswegen wird die CPU auch still und heimlich auf der Seite gezeigt ohne großen Tam-Tam in der Hoffnung, dass es keiner mitkriegt, der es kritisieren könnte....

 

[RealMax123]

Ryzen AI 3 330 statt Ryzen AI 5 330 wäre echt passender gewesen.

Ansonsten denke ich eignet sich diese APU geher für stromsparende Subnotebooks und Tablets und ist eine günstige x86 Alternative zu ARM SoCs.

Bei der GPU könnte ich mir aber vorstellen das viele Hersteller trotzdem noch eine GeForce RTX 5050 Mobile zubauen.

 

[Yosup]

All diese Dinge gab es schon vorher, erst jetzt kommt der Name KI drauf.

Und die Leistungsfähigkeit schiesst dank beschleunigter neuronaler Netze durch die Decke. Ich weiss noch wie ich vor Jahren mal 4000 Din A4 Blätter geOCRt habe. Das lief wochenlang, und es waren mehr als genug Fehler drin, vor allem in Zahlenwerk. Das geht heute in einem Bruchteil der Zeit mit besserem Ergebnis, und an den Stellen, wo das NN aus einer 7 ein T "halluziniert" hätte die OCR-Software von vor 10 Jahren gar nichts mehr erkannt.

Das Problem dabei ist nur das Halluzinieren.

Ja, wenn man unter AI nur ChatGPT&Co versteht und nicht allgmein neuronale Netze, dann kommt natürlich das Standardargument "Halluzination"...

Fakt ist, dank der aktuellen Entwicklung hat es noch nie zuvor so eine gute maschinelle Spracherkennung, Übersetzung, OCR oder allg. Bildinhaltserkennung gegeben. Sowohl Performance als auch objektive Ergebnisqualität übertrifft in diesen Bereichen alles bisherige. Und Du so "Problem ist das Halluzinieren". Ja klar doch!