News Framework Desktop: Mit Ryzen AI Max+ Pro 495 sind sehr teure 192 GB RAM drin

[apensler]

Im Rahmen des AMD-Advancing-AI-Events wird ein Framework Desktop mit einem Ryzen AI Max+ Pro 495 inklusive Radeon 8065-iGPU und 192 GB Arbeitsspeicher vorgestellt. Laut Framework ist es das erste System mit diesem Prozessor und einer so hohen RAM-Ausstattung. Mit Blick auf den Preis gibt es aber schon vorab eine Warnung.

Zur News: Framework Desktop: Mit Ryzen AI Max+ Pro 495 sind sehr teure 192 GB RAM drin

 

[Rickmer]

Da die 128GB Version jetzt schon bei 3500€ ist - unter 5000€ wird das wohl nichts.

 

[Araska]

In Anbetracht der Tatsache, daß ich meine Framework-Boards mit 128 GiB für unter 2000 gekauft habe... und das schon eklig teuer war...

 

[anexX]

Da die 128GB Version jetzt schon bei 3500€ ist - unter 5000€ wird das wohl nichts.

Schnapper - nur knapp teurer als ne 5090.

 

[AAS]

Da die 128GB Version jetzt schon bei 3500€ ist - unter 5000€ wird das wohl nichts.

Ich würde sogar 7k zahlen.

 

[Araska]

nur knapp teurer als ne 5090.

Und das bei sechsmal so viel Speicher...

 

[Holzfällerhemd]

Na das wird sicher ein Schnapper. Aber ich bin auch nicht die Zielgruppe. Dennoch wäre aber sicher irgendwie ein PCIe X16 Anschluss drin gewesen. Für welchen Usecase auch immer.

 

[br3adwhale]

@Rickmer dieselbe Hardware bekommst du normalerweise in Geräten anderer Hersteller günstiger. Framework hat halt noch einen Premium-Aufpreis mit drin. Aktuell scheint sich das allerdings zuzuspitzen, das 128 GB Modell ist bei Framework aktuell nicht lieferbar und die Preise von den Alternativen von GMKtec, Minisforum, Corsair, HP usw. gehen gerade durch die Decke.

Krank was hier passiert, den GMKtec der neben mir steht hab ich noch für rund 2700 € bekommen, jetzt ist er bei rund 3800 € (Bestpreis Galaxus).

Gegenüber dem Vorgänger (Codename Strix Halo) wurden bei Gorgon Halo allerdings der Takt von CPU und GPU um 100 MHz angehoben. Darüber hinaus erlaubt Gorgon Point die Anbindung von bis zu 192 GB LPDDR5X-8533, bei Strix Halo lag das Maximum bei 128 GB LPDDR5X-8000.

@apensler ich glaub da ist was durcheinander geraten. Gorgon Point sollte an dieser Stelle wohl auch Gorgon Halo heißen? Gorgon Point erlaubt bis zu 256 GB RAM, hat dafür wieder mal ne lahme Radeon 800er Serie als GPU.

 

[pmkrefeld]

5-7k für <5 tokens pro Sekunde?
Da müsste mir jmd das RoI erklären....

Bei 0.35€/kWh ist der Preis pro Token ~10x so hoch wie die Cloud. Also kein ROI....

 

[apensler]

@apensler ich glaub da ist was durcheinander geraten. Gorgon Point sollte an dieser Stelle wohl auch Gorgon Halo heißen? Gorgon Point erlaubt bis zu 256 GB RAM, hat dafür wieder mal ne lahme Radeon 800er Serie als GPU.

Ist korrigiert, danke für den Hinweis.

 

[FreshLemon]

@pmkrefeld
Ist halt trotzdem viiiiieeeel billiger als die Menge an GPUs mit entsprechendem VRAM zu kaufen. Denke in KI-Laboren und wo es mehr auf Qualität statt Schnelligkeit ankommt, kann das schon Sinn machen. Klar, man kann auch Rechenleistung mieten aber dann ist es halt nicht mehr lokal, was in vielen Umgebungen aber essenziell ist.

 

[pmkrefeld]

@FreshLemon
Das war nicht die Frage... wieso soll man Überhaupt kaufen?
Und wenns aufs Qualität ankommt dann nimmt man doch nicht ein vergleichsweise kleines Modell das lokal single-threaded laufen kann sondern workers pools von Modellen die 1+T Parameter haben. Das hier ist bestenfalls ein Spielzeug.

 

[theGucky]

Und das bei sechsmal so viel Speicher...

Also 128GiB hätte ich noch für ~500€ in meinen Rechner packen können.
Ich habe mich aber für 64GiB entschieden, weil ich als Gamer nicht mehr brauche. Hat mich auch nur 225€ gekostet, in 2024...

 

[steirerblut]

Najo, immer noch die selbe zu langsame Speicherbandbreite (+10% wenn der OEM nicht spart) was es für 90% der Coding Tasks Quasi zu langsam macht. Ich seh keine Zielgruppe ausser Single prompt Abfragen.

 

[pmkrefeld]

Genau, erst müssen die subventionierte. 200€ Plans weg und der Ram-Preis MASSIV nach unten bevor so etwas Sinn machen könnte.

 

[VanFraecker]

Bei 0.35€/kWh ist der Preis pro Token ~10x so hoch wie die Cloud. Also kein ROI....

Ist gibt halt Unternehmen, die streamen Ihre internen Daten halt nicht einfach so in ne Cloud, die brauchen dann solche Geräte.

Zum Beispiel Rüstungsfirmen, die werden bestimmt nicht irgendeine externe KI benutzen.

 

[theGucky]

@pmkrefeld
Ist halt trotzdem viiiiieeeel billiger als die Menge an GPUs mit entsprechendem VRAM zu kaufen.

Meinst du?
Ich sage, es kommt auf die Menge an.

GDDR7 x 16GiB = 530€ x16 = 8480€

DRR5 x 256GiB = 9939€
(beides die günstigsten Angebote für GDDR7 bzw DDR5 in 256GiB)

Aber wenn man den GDDR7 auf nur wenigen Karten haben möchte wirds teuer:

Ne Spass beiseite, man nimmt dan eher 2x 2x64Gib Kits:

Kosten nur 1400€ das Stück...
Da frage ich mich aber auch, wieso der PC mit nur 128GiB 3500$ kostet... Kostet die APU 2000$?

 

[fox40phil]

Könne sie nicht direkt die Tokens/s angeben?

Die 100Mhz mehr bei den Chips sind auch süß... :S

Wie schlägt sich so ein Gerät oder Cluster gegen Mac?

 

[steirerblut]

Meinst du?
Ich sage, es kommt auf die Menge an.

Anhang anzeigen 1748329
GDDR7 x 16GiB = 530€ x16 = 8480€
Anhang anzeigen 1748330
DRR5 x 256GiB = 9939€
(beides die günstigsten Angebote für GDDR7 bzw DDR5 in 256GiB)

Ne Spass beiseite, man nimmt dan eher 2x 2x64Gib Kits:
Anhang anzeigen 1748333
Kosten nur 1400€ das Stück...
Da frage ich mich aber auch, wieso der PC mit nur 128GiB 3500$ kostet... Kostet die APU 2000$?

Nvidia ist dir da einen Schritt voraus, seit RTX 4000 Aufwärts gibts kein NVLink /SLI auf Consumer Karten mehr. Leider oder zum Glück ist jetzt die Frage, vermutlich gäbs aber keine Grafikkarten mehr im freien Handel wenns anders wär.

 

[nixalsverdruss]

Haben will. Mehr lokale KI ist auch demokratischer.