News 50 Prozent mehr Speicher: Ryzen AI Max+ Pro 495 mit Radeon 8065S nutzt 192 GByte RAM

[Volker]

Die Halo-Variante der rebrandeten Ryzen AI 400 ist zwar technisch identisch mit Strix Halo, nutzt aber 50 Prozent mehr LPDDR5X-Speicher. Das ist vor allem für die anvisierte AI-Zielgruppe ein Verkaufsargument. Der Preis wiederum dürfte aber dann auch schon in Richtung „kleiner Server“ gehen.

Zur News: 50 Prozent mehr Speicher: Ryzen AI Max+ Pro 495 mit Radeon 8065S nutzt 192 GByte RAM

 

[Willi-Fi]

Interessant an der Stelle ist seit einem Jahr, dass der Bios Support der 395er Plattformen trotz des Preises nicht an normale Notebooks/Mainboards herankommt.

 

[Pandora]

Bin nicht so im AI Game aber lohnt sich das noch ?
Preislich dürfte so eine Kiste steil gegen 10k gehen und dafür bekommt man auch eine Nvidia Pro 6000 mit 96gb gddr7.

 

[seyfhor]

Preislich dürfte so eine Kiste steil gegen 10k gehen und dafür bekommt man auch eine Nvidia Pro 6000 mit 96gb gddr7.

Ist sicher wie an der Tanke, muss man schauen wann sich da was mehr lohnt 🤣

Erster Gedanke: Geil, mehr Speicher unterstützen, den man sich aber gar nicht leisten kann 🤣

 

[steirerblut]

Kann sich für Einzelplatzarbeiten schon lohnen wennst große Contextwindows für mittlere Modelle brauchst. Aber im aktuellen Marktumfeld eher ne Nische. Das Problem ist das man zur Workstation GPU dann halt nochmal den selben Arbeitsspeicher (+Spazi für anderwertige Arbeiten) braucht damit vLLM optimal arbeiten kann. Dann bist bei ner RTX Pro 6000 Workstation halt bei 15-20k Euro.
Aber das Produktdesign wird ja noch vor der Speicherkrise abstammen; für die Endpreise kannst halt auch 4+ Jahre Claude Max für 200 € buchen und wirst dabei ne bessere Performance haben.
*) Das kann sich mit diversen Börsengängen natürlich alles ändern wenn die Modellbetreiber alle auf einmal kostendeckend arbeiten "müssen".

 

[Dito]

Es hat schon ein "Geschmäckle", wenn diese Sachen dann kommen, wenn man als Firma gut Geld verdienen kann. Ein Schelm wer böses denkt...

 

[Flutefox]

Ah sehr schön, wieder ein Papiertiger mi kaum Designwins außerhalb der KI Ecke. Da sind die Panther Lakes für iGPU Fans aktuell wesentlich besser aufgestellt.

 

[BxBender]

Bin nicht so im AI Game aber lohnt sich das noch ?
Preislich dürfte so eine Kiste steil gegen 10k gehen und dafür bekommt man auch eine Nvidia Pro 6000 mit 96gb gddr7.

Schau dir mal das Video mit Keno von der C't an.
Der hat da mal was getestet.
Da ging es aber um die kleine 5000 Euro Kiste von Nvidia und dann seine 4090.
Die Geräte beschleunigen unterschiedliche Dinge unterschiedlich gut.
Und dann kommt noch der Faktor Speichergröße dazu.
Das wird hier also ähnlich sein.
Müssen natürlich Tests ergeben, was man wofür genau kaufen sollte.
Bei den Preisen ist blind kaufen eher unangebracht.
Da würde ich auf Firmenebene schon eine Produktberatung erwarten, was für eine Art von Gerät man wofür braucht, wenn man denn schon weiß, was man für eine KI überhaupt benötigt und wie man sie einsetzen kann.
Das ist ja mindestens so wichtig wie die Entscheidung über CAD/CAM-Arbeitsplätze, der verwendeten Software und damit verbundene Systeme.
Da glühen uns nämlich immer die Köpfe, und jetzt will wieder ein Maschinenhersteller seine Software komplett umstellen, das 2te Mal in 10 Jahren, ich könnte kotzen.

 

[person unknown]

Bin nicht so im AI Game aber lohnt sich das noch ?
Preislich dürfte so eine Kiste steil gegen 10k gehen und dafür bekommt man auch eine Nvidia Pro 6000 mit 96gb gddr7.

Geht mir auch so. Mich interessiert AI/KI nur mäßig und eher beruflich. Aber das Feld ist offensichtlich far beyond Games oder Anwendungen nutzen. Und der nette Kollege von ct'3003 erklärt die Verhälnismäßigkeit von Model-Anforderungen, Hardware und Host sehr anschaulich. Selbst sein Versuch mit einem alten Mac hat erstaunliche Ergebnisse geliefert, ohne sein fabrikneues Auto in Zahlung geben zu müssen.
Ich denke: JA! Es macht immer noch sinn, sich sein System berarfsgerecht zu konfigurieren. Denn auch das nennt er klar und deutlich: DIe NVidia Kiste hat massig Potenzial, aber eben nicht in jedem Szenario - und dann ist sie vor allem eines: Sauteuer.
Ich halte den Markt noch für zu jung, und die geschwindigkeit, mit der man das in den Markt pressen möchte zu hoch. Was mich allerdings immer noch verwundert, dass die dicken Ryzen AI Modelle ausschließlich auf Notebook-Sockel daherkommen und nicht auf einer frei konfigutierbaren Board-CPU-Kombi.
Aber es ist ja noch nicht aller Produktvorstellungen Abend.

 

[Hartwarezoo]

Ich muss wohl länger warten auf eine schöne APU mit ordentlicher Grafikeinheit.
So wie AM4 für wenig Geld.

Apu auf Mainboard gebaut, leiser Kühler und Ram ordentlich übertaktet.
Das Leben genossen bei geringem Stromverbrauch.

4650g 🥰 alles was danach kam hat mir nicht so gefallen.

Aber Glückwunsch AMD tolles Produkt nur nicht für meinen Geldbeutel.

Zum Thema KI ich denke die LLM werden spezieller damit kleiner und auf größen wie 64, 96gb angepasst und GPU offload.

Je nach LLM nutze ich meinen 5755g, 5950x oder 50xx Serie.
Der 5755g kann auch sehr schnell Bilder erstellen, es muss nicht nvidia sein

Noch gibt es kein Preisschild für KI.
Aktuell testen sie wie weit sie gehen können.
Ich denke wenn privat Personen ihre Schmuddeligen 😉 Inhalte selber erstellen können in einer Qualität die ausreichend ist dann zahlen Sie da gerne einen hohen Preis.
Ich sag nur VHS (nein so alt bin ich nicht)

 

[stefan92x]

Was mich allerdings immer noch verwundert, dass die dicken Ryzen AI Modelle ausschließlich auf Notebook-Sockel daherkommen und nicht auf einer frei konfigutierbaren Board-CPU-Kombi.

Die Kombination aus Effizienz und Speichergeschwindigkeit ist halt einfach nur mit verlötetem LPDDR möglich. Vielleicht wird bei einem Nachfolger SOCAMM oder so möglich (zumindest für Server wird es ja eine solche Version geben nächstes Jahr - Epyc Verano), aber Strix Halo schafft es halt nicht.

Abgesehen davon bleibt die Frage: Wofür? Der Star ist der Chip selbst, Kapazität für viel Peripherie hat er so oder so nicht.

 

[AssembIer]

dass der Bios Support der 395er Plattformen trotz des Preises nicht an normale Notebooks/Mainboards herankommt.

Gibt es denn irgendwelche schwerwiegenden Probleme auf der Plattform (rein aus Interesse) ?

Strix Halo ist halt ein Nischenprodukt, bei dem kaum ein Hersteller viel Zeit investieten wird, sofern es läuft.

 

[ETI1120]

Was mich allerdings immer noch verwundert, dass die dicken Ryzen AI Modelle ausschließlich auf Notebook-Sockel daherkommen und nicht auf einer frei konfigutierbaren Board-CPU-Kombi.

Es gibt keine Desktop Konfiguration für die Strix Halo passt. Strix Halo hat ein 256 Bit Speicherinterface.

Theoretisch könnte man Strix Halo in den Threadripper Sockel packen. Aber dann sind die 16 PCIe Lanes viel zu wenig bei den teuren Boards.

Das Problem von Strix Halo ist das ein cooler Chip allein noch lange kein gutes Produkt ist. Jetzt wo alles so langsam fertig wird, kommen die hohen Speicherpreise dazwischen.

 

[Willi-Fi]

@AssembIer

Es läuft schon gut. Es hat nur keine Lüftersteuerung. Und das Schalten von TDP55 auf TDP120 resultiert meistens im Crash. Man kann im Bios wenig einstellen. zB. für Gaming weniger Kerne, mehr TDP für die Grafikeinheit etc... Dieser übliche Effekt wie bei der Anno Serie: am Anfang ist wenig los und im späteren Spiel ruckelt es. Bei dem 395er versuche ich jedes Frame zu bekommen, damit selbst kleine Spiele in späteren Levels gut spielbar (25fps) bleiben.
Der Linux Support ist besser (zB. Stromsparen) und auch für AI gibt es eine größere Gruppe an versierten Usern.

 

[EL-Xatrix]

liest sich toll...aber kann mir jetzt mal wer erklären wer das brauch? in nem notebook?

die leistung in ner workstation sollte sich doch auch realisieren lassen, und da kann man auf gpus oder richtige ai karten mit schnellerem speicher zurückgreifen...da muss ich dann nicht unbedingt aufpreis für notebook zahlen...wo bei voller nutzung der ai dann der akku vermutlich auch recht schnell leer gelutscht ist...

 

[Brrr]

Kann sich für Einzelplatzarbeiten schon lohnen wennst große Contextwindows für mittlere Modelle brauchst.

Die Frage ist ob man dann noch eine akzeptable Geschwindigkeit hat, wenn das Modell + Context den Ram voll belegt. Gibt es da Benchmarks dazu?

 

[Tigerfox]

Dass jetzt 192GB statt 128GB gehen hat doch null mit der APU, sondern nur mit der Verfügbarkeit von 24GB-Bausteinen zu tun, dass ginge mit Strix Halo genauso.

Eine Neuerungen von Medusa Halo sollte aber die volle Geschwindigkeit von LPDDR5X-8533 statt vorher 8000 sein, also nochmal 6,7% mehr Bandbreite.

Ich finde dieses Produkt aber auch überflüssig wie sonst was. Glücksfall, dass es ganz spezielle Anwendungsgebiete gibt, wo der große shared Memory gerade super ist, aber im Notebook, wofür die Plattform ursprünglich entwickelt wurde, ist der Nutzen gering. Und immer noch sehr schade, dass aufgrund der Anbindung angeblich nur verlötet Speicher möglich ist und kein LPCAMM2 infrage kommt.

 

[Zensored]

Bin nicht so im AI Game aber lohnt sich das noch ?
Preislich dürfte so eine Kiste steil gegen 10k gehen und dafür bekommt man auch eine Nvidia Pro 6000 mit 96gb gddr7.

Solche Geräte sind auch außerhalb der AI Branche eine tolle Lösung bzw. ich würde mich freuen solch ein Gerät nutzen zu können.
Bei meinen Projekten ist die menge des RAMs,VRAMs entscheidender als die maximale Anbindung mit GB/s.
Für mich macht das ganze eher in einer Workstation Sinn.

 

[StephenFalken]

Bin nicht so im AI Game aber lohnt sich das noch ?
Preislich dürfte so eine Kiste steil gegen 10k gehen und dafür bekommt man auch eine Nvidia Pro 6000 mit 96gb gddr7.

395 + 128 GB RAM gibt es schon wesentlich günstiger, Mini-PCs unter 3000 Euro.
also rechne ich hiermit mal mit 3500 Euro. das muss aber auch langen.
damit gilt:
ja, es kann sich lohnen. wenn ich ein modell laufen lassen will, dass so viel Speicher braucht, dann läuft es schneller als mit einer Super-Duper-Hyper-Card, die nicht genügend Speicher hat.
ob sich das lohnt im Vergleich zu Mac Studio weiß ich nicht, da ich die Kosten des Mac Studio nicht kenne, das dürfte so bei 4500 liegen mit 256 GB Ram und dürfte schneller sein. Halt, auf den ersten Blick sind die Mac Studios teurer.
Schlussfolgerung: es könnte sich lohnen.

 

[crogge]

Ich kann bestätigen das der 395 MAX eine ausgezeichnete CPU ist, jedoch fehlen weiterhin mobile Geräte im 15-17" Bereich. Insbesondere die schnelle Speicheranbindung gibt der iGPU einen zusätzlichen Boost.