Ryzen AI Max+ PRO 395, 128GB RAM oder Alternative?

[phatt]

Ein neuer Rechenknecht soll her - habe mich irgendwie in den Ryzen AI Max+ PRO 395 mit 128GB RAM verguckt.
von daher ist wohl ein Budget von min 2500 Euronen auf dem Tisch...

Setzte momentan zu 80% CachyOS (arch Linux Derivat) und 10% Win11 ein - mir ist schon klar, dass da noch 10 % fehlen - das sind Experimente mit anderen Systemen ;-)

Will mit dem System dann noch mehr mit KI machen (momentan mit LM Studio) , meine ganzen FF tabs ohne schlechtes gewissen offen lassen und hin und wieder mal ein ründchen zocken...

Mein derzeitiges System:

CPU​	AMD Ryzen 7 5800X3D​
GPU​	Sapphire Pulse Radeon RX 6800 16GB​
RAM​	64GB Corsair Vengeance LPX DDR4-3200​
SSD​	1TB Kingston FURY Renegade​
COOLER​	be quiet! Dark Rock Pro 4​
CASE​	be quiet! Pure Base 600​
PSU​	be quiet! Pure Power 11 CM 700W ​

Die 4TB Lexar NM790 habe ich dem System schon mal "geklaut"

Das System möchte ich in € umwandeln - hab's jetzt erstmal so (also ohne die Lexar) für 1400 VHB bei kleinanzeigen reingestellt...


Das NVDIA Pendant (der DGX Spark) ist mir dann doch etwas zu teuer und noch weiter vom "normalem" PC entfernt...


macht das mehr oder weniger Sinn?

 

[madmax2010]

Du nutzt Linux.
Du hast einen super Desktop
Dein Budget ist reacht niedrig um was gescheites fuer AI zu kaufen
Spricht was sagegen Stundenweise H100/200 GPUs zu mieten? Da kommst du mit 2500 Euro 1-2 Jahre sehr weit und an der Front sinken die Preise ohnehin immer weiter und du kannst flexibel ein vielfaches der Leistung nutzen

Ansonsten Framework. Ich mag die, ROCm wird so langsam auch gut.

 

[phatt]

Das tue ich.
Ja - bin eigentlich auch relativ zufrieden
das hatte ich irgendwie befürchtet ^^
Dagegen spräche, dass ich mich damit noch nicht beschäftigt habe o.O klingt aber eigentlich recht vernünftig...

Tendiere momentan auch zum framework, falls es denn ein Ryzen AI Max+ PRO 395 werden soll

 

[madmax2010]

https://app.primeintellect.ai/dashb...apest&pricing_type=Cheapest&security=Cheapest

Gibt gerade b200 mit 180gb vram für 1 Dollar pro Stunde.
Daheim kostet dich das 5 stellig.
Gerade wenn du damit nur herumspielen willst.. Halte es simpel und billig. Was auf du auf Miethardware automatisiert starten kannst, kannst du noch immer daheim starten, wenn du weisst was du genau damit machst.
Ich sehe gerade viele die sich 4-5 Mac Studio M3 Ultra Kaufen und dankt 2TB RAM GLM 4.7 / Minimax M2 laufen lassen