Neuer PC als Workstation - Passt das so? Budget: ca. 9000 Euro.

[Mork-von-Ork]

Nehmt Gehäuse mit sehr viel Mesh, die 200mm Lüfter aufnehmen können

Fairerweise, das kann das Corsair Frame 5000D Workstation wobei das auch nicht das größte Problem an der Konfig ist.

 

[Kulasko]

Braucht es CUDA? Braucht es den Durchsatz der 5090, reicht der VRAM? Ansonsten gibt es für den Preis fast vier (!) Framework Desktops mit 64GB oder zwei mit 128GB. Ich bin auch kein KI-Experte, daher weiß ich nicht ob man die auch unter Windoos verschalten kann, mindestens unter Linux ist das aber drin, da funktionieren dann auch relativ große Modelle mit.

 

[Tornhoof]

Den Weg den alle aktuell gehen ist Unified Memory, sei es Ryzen AI Max+ Pro, Apple Mac, Nvidia Spark usw.
Ich würde dir persönlich empfehlen, die Nvidia Spark Route zu gehen, wenn du bei Nvidia bleiben willst. Ansonsten Apple, dann Ryze AI Max.

 

[the_nobs]

Hallo

Hatte so etwas ähnliches auch vor einiger Zeit
Würde auch nicht die X3D CPU nehmen sondern den 9950X weil mehr Kerne und das bringt bei dem Workload mehr als der Cache...
Wie auch bereits vorgeschlagen, keine AIO sondern eine Luftkühlung. Bei den Preis kannst vielleicht nach oben greifen und gleich einen noctua nehmen https://geizhals.at/noctua-nh-d15-g2-v166241.html

Verstehe auch das du eine Gaminggrafikkarte nimmst, die sind zwar teuer, aber die dezidierten Workstation Modelle sind total verrückt...
Wenn du LLM betreiben willst, viele der neuen Modelle kommen mit 16 GB VRAM nicht mehr aus
Falls benötigt bleibt dir nur mehr auf Unified RAM zu gehen via MacStudio, oder diverse AMD Ryzen AI Modelle...

 

[=dantE=]

Nvidia Spark

+1
Die Frickelei würde ich mir bei dem Zielbild auch nicht antun.

 

[steirerblut]

Braucht es CUDA? Braucht es den Durchsatz der 5090, reicht der VRAM? Ansonsten gibt es für den Preis fast vier (!) Framework Desktops mit 64GB oder zwei mit 128GB. Ich bin auch kein KI-Experte, daher weiß ich nicht ob man die auch unter Windoos verschalten kann, mindestens unter Linux ist das aber drin, da funktionieren dann auch relativ große Modelle mit.

1800 GB/s Speicherbandbreite auf der RTX 5090 vs 250 GB/s auf Strix/Gorgon Halo -> ein Viertel bis ein Zehntel der Inferenzleistung je nach Model, KV Cache Nutzung, Anzahl der Threads. Viel Speicher allein nutzt dir auch nichts. Für den Unternehmenseinsatz kostet die Bastelei Zeit / Geld. -> Im Idealfall wärens halt 2-4x DGX Sparks je nach Anforderung. Aber das macht im aktuellen Preisumfeld leider noch weniger Sinn als die Initiale Konfig.

 

[Khorneflakes]

Tja, ich habe immer empfohlen, schnell noch eine RTX Pro 6000 zu kaufen, wenn man es ernst meint, als die noch für 8000 Euro zu bekommen war. Die Zeiten sind vorbei.

Jetzt ist die nächstbeste Option ein Apple-System oder ein Strix Halo / Gorgon Halo PC oder eine Intel Arc Pro GPU. Und da beginnt die Luft auch schon dünn zu werden. Wenn ihr da was haben wollt, kauft es lieber jetzt...

Wenn aus Gründen nichts davon in Frage kommt, tja, dann ist die Luft extrem dünn und ich verstehe, warum man eine ebenfalls extrem überteuerte RTX 5090 kaufen will. Ist halt auch nur noch die pure Verzweiflung.

 

[probemaster]

Danke für das viele Feedback. Übernommen: 9900X statt 9800X3D, Luftkühler (NH-D15S) statt AIO, HX1200i statt Power Zone 2, 4 TB SSD, JEDEC-RAM wird angefragt. Der Preis erklärt sich durch die 5090, die aktuell bei über 5.000 € liegt. Mac Studio scheidet wegen der Prompt-Verarbeitung bei vielen gleichzeitigen Nutzern aus. Vor-Ort-Service frage ich an. Bleibt die Frage: Spricht bei Luftkühlung und 12 Kernen noch etwas gegen das B850 Aorus Elite?

Noch ein kleiner Hinweis am Rande: Unser Projekt-Design (eine Studie mit sehr vielen Daten) gibt derzeit diese starren Vorgaben vor, da die Applikation vom Datenschutzbeauftragten und Personalrat so abgenommen wurde und es Vorgaben seitens des Projektgebers gibt. Änderungen würde an der Stelle diesen (sehr mühsamen) Prozess erneut starten.

 

[Gohst]

Ich hätte (sofern die reine Performance weniger relevant ist) auf jeden Fall ein APU System wie Mac mini Pro, Nvidia DGX Spark oder Strix-Halo mit min. 96GB Unified Memory empfohlen.

So hält man sich einfach Möglichkeiten offen.

Wir der Kontext zu lang, mehr Präzision verlangt oder ein besseres Modell notwendig?
Dann steigt der Speicherbedarf.

So reicht dann auch bald mal 32GB VRam nicht mehr.

 

[freekymachine]

Hallo zusammen,

ich stelle gerade für ein Projekt eine Workstation zusammen, auf der lokal Sprachmodelle laufen sollen (Ollama/vLLM, Modelle bis ~32B Parameter).

Ja - gut "schlechtes Timing" - was so Rechner-Neu Bau angeht - weiß man sicherlich

Aber "Workstation" ist eigentlich was anderes - das was da erstmal aktuell gewählt ist/wurde - ist an sich nur n Gaming-Rechner mit ner 5090.

wäre als "Workstation" die 9950X2_3D nicht die bessere Wahl ? Gaming ist deine Wahl sicher gut aber Workstation ?

Genau - weil...eeeigentlich ist das halt Desktop Hardware.

Definition Workstation kann man sich jetzt auch 200 Seiten kaputtdiskutieren - genau so kann ein Core i3 3550 ein "Server" sein, weil er halt einen Dienst hostet.

Nur im Profi-Segment - 24/7 oder auch mal 10 Stunden Power-User Auslastung ist so ein B850/X870 Mainboard gar nicht für gedacht. Weder die Wandler, noch die Kühlung, oft auch nicht die Netzteile.
gefore 5090 ist eigentlich auch ne Gamer-karte - eher nimmt man halt ne RTX6000 oder sowas.

ECC Reg. Ram ist oft gerne gesehn/gewünscht
Richtige Server-CPU / Workstation Hybride - mehere Sockel / Kerne
Boards mit mehr als genug PCI-E Lanes
Netzteile für Dauerlast - Kühlung Gehäuse ebenfalls.

Entweder sowas was ich halt hab - siehe Signatur.
Oder auch fertig von Dell/Lenovo/HP
Oft werden teils auch etwas ältere Systeme genommen - teils runter bis zu Dual Sockel 2011 C612 mit 2x Xeon 2698 v4 aber halt 256GB DDR4 ECC Reg Ram - Boards mit teils 4x PCI-E 16x Slots und dann halt 2,3,4, teils sogar 7x GPU auf nem "alten" WRX80 z.b. gar TRX40 Boards oder auch oft C622 Dual Sockel 3647.

Problem natürlich Preis - meine Kiste hab ich März 2025 oder so fertig gestellt - war echt "günstig" - jetzt kost mein Ram-Kit alleine teils 3500/4000 € auf Ebay gebraucht...

 

[Khorneflakes]

Bleibt die Frage: Spricht bei Luftkühlung und 12 Kernen noch etwas gegen das B850 Aorus Elite?

Die Frage ist falsch gestellt. JEDES Retail-DIY-Board wäre hier falsch, weil es sehr aufwendig / teuer ist, sowas langfristig professionell zu supporten. Mit Luftkühlung und 12 Kernen hat das nichts zu tun.

 

[djducky]

Simple Lösung: Arctic Freezer 36
Teure Lösung: Noctua NH-D15 G2
Noch teurere Lösung: B2B AIOs

Was Intel betrifft würde ich einen FSP MP7 vorschlagen, der ist (nur auf Intel!) dann doch auf Augenhöhe mit dem D15 G2. Bei einer AMD-CPU mit zwei CCDs würde ich dann doch etwas mit mehr Reserve als den Freezer nehmen, den Phantom Spirit z.B.

 

[steirerblut]

Danke für das viele Feedback. Übernommen: 9900X statt 9800X3D, Luftkühler (NH-D15S) statt AIO, HX1200i statt Power Zone 2, 4 TB SSD, JEDEC-RAM wird angefragt. Der Preis erklärt sich durch die 5090, die aktuell bei über 5.000 € liegt. Mac Studio scheidet wegen der Prompt-Verarbeitung bei vielen gleichzeitigen Nutzern aus. Vor-Ort-Service frage ich an. Bleibt die Frage: Spricht bei Luftkühlung und 12 Kernen noch etwas gegen das B850 Aorus Elite?

Noch ein kleiner Hinweis am Rande: Unser Projekt-Design (eine Studie mit sehr vielen Daten) gibt derzeit diese starren Vorgaben vor, da die Applikation vom Datenschutzbeauftragten und Personalrat so abgenommen wurde und es Vorgaben seitens des Projektgebers gibt. Änderungen würde an der Stelle diesen (sehr mühsamen) Prozess erneut starten.

Warum Apple bis heute keinen CPU Governor mit sauberen Scheduling hin kriegt versteh ich immer noch nicht. Das Threads aggressiv/wahllos geparkt werden ist mit der Unix Basis unerklärlich. Leider, leider, sonst wär die Plattform eigentlich perfekt für Thread Heavy Use. -> Selbst mit meinem Single User Workload brach das Macbook leider komplett ein. Ein Deploy mit ein paar Dependencies braucht 4-5x so lang wie auf nem 5 Jahre alten 4 Core Linux host

Euch ist klar dass das alles Consumer Hardware ist? Kriegt ihr von eurem "Systembauer" irgendeine Sonderklausel reingehandelt?

 

[probemaster]

Problem natürlich Preis - meine Kiste hab ich März 2025 oder so fertig gestellt - war echt "günstig" - jetzt kost mein Ram-Kit alleine teils 3500/4000 € auf Ebay gebraucht...

Und genau das ist derzeit das Problem. Wir müssen nun mit dem Budget arbeiten. Von Projektantrag bis Bewilligung sind nun mehr als 12 Monate vergangen. Davon ab: Die 5090 wird für unser Vorhaben reichen, wir haben derzeit schon mit weniger Leistung auf einem Test-System sehr gute Ergebnisse erzielen können.

 

[Araska]

Übernommen: 9900X statt 9800X3D

9950X ist meiner Meinung nach die bessere Lösung - sind diese 100-120€ ein Dealbreaker?

 

[probemaster]

Warum Apple bis heute keinen CPU Governor mit sauberen Scheduling hin kriegt versteh ich immer noch nicht. Das Threads einfach geparkt wahllos geparkt werden ist eine Schande für die Unix Basis. Leider, leider, sonst wär die Plattform eigentlich perfekt für Thread Heavy Use. -> Selbst mit meinem Single User Workload brach das Macbook leider komplett ein. Ein Deploy mit ein paar Dependencies braucht 4-5x so lang wie auf nem 5 Jahre alten 4 Core Linux host

Euch ist klar dass das alles Consumer Hardware ist? Kriegt ihr von eurem "Systembauer" irgendeine Sonderklausel reingehandelt?

Tatsächlich ja, weil eben alles so exorbitant teuer geworden ist oder teilweise auch einfach gar nicht verfügbar.

 

[TeeKayEV]

Wie immer kommen beim Wort Workstation die Workstation-Extremisten raus, die dir was von Gamer-Hardware erzählen, die keinesfalls im Businessumfeld verwendet werden darf. Als ginge es um das Backend von Walmart, das beim Ausfall 3 Mio Arbeitnehmer arbeitslos machen würde. Für den Preis von Workstation RDIMMs könnt ihr euch auch einen zweiten Rechner mit RTX 5090 in den Keller stellen, der beim sehr unwahrscheinlichen Ausfall des 1. Rechners übernähme.

 

[probemaster]

Noch eine kurze Zwischeinfo: Der Systembauer hatte tatsächlich einen Preis bei der CPU falsch ausgewiesen.
9950X und 9950X3D kosten einen identischen Aufpreis von 200 Euro. Soll ich dann den 9950X3D nehmen?

 

[freekymachine]

Und genau das ist derzeit das Problem. Wir müssen nun mit dem Budget arbeiten. Von Projektantrag bis Bewilligung sind nun mehr als 12 Monate vergangen. Davon ab: Die 5090 wird für unser Vorhaben reichen, wir haben derzeit schon mit weniger Leistung auf einem Test-System sehr gute Ergebnisse erzielen können.

Ja ist halt...blöd., wohl wahr.

Man sollte halt nur aufpassen was man sich zusammenbaut - wenns danach geht hängt eh erstmal alles an gpu-leistung = am besten 8x ne 5090 oder 4x ne TRX6000

wo man die draufsteckt wird dann fast zweitrangig - klar gerne immer soviel wie geht - aber so nutzen halt viele, siehe reddit oder so n altes Dual Sockel 3647 mit DDR4 ECC Reg Ram - 256gb, 512gb , teils bis zu 4tb DDR4 2933 ECC Reg aber halt mit 4, 6x PCI-E ports und netten karten drauf, weil rest unbeschaffbar ist.

n paar pics von reddit und deren ai-self-build kisten

1. sieht aus wie n dual 2011 fujitsu
2. ist n wrx80
3. anscheinend das kleine asus dual c612, auch sockel 2011

Portemonaie hat halt n wort mitzureden

https://www.dell.com/de-de/shop/cty...-workstation/xctopt7875emea_vp?tfcid=84651726

klar ist jetzt erstmal teuer, und nicht viel drinne - aber das ist wenigstens ne echte vollwertige workstation.
Gibt bestimmt genug händler wo man die, oder ähnliche oder teils leere herbekommt - bestücken mit 3x RTX6000 kann man die ja immer noch

Aber das sind halt Workstations - rest is eher ... "Desktop" - n unterbau um ne 5090 draufzustecken^^ [ zur not würds auch n x79 tun^^] - würd ich evt gar nicht so teuer machen - aber ja, is halt..."meeeh / hhhh"

was tun?! - alles blöd - echt schlechteste Zeit ever sowas umzusetzen
https://www.gekko-computer.de/p/Len...3-3GHz-1TB-DDR4-RAM-1TB-NVME-1400W-Windows-11
ist halt auch soo teuer, für so alt...gut 1tb ram kost gefühlt auch schon soviel wie ne alte gebrauchte mercedes w126 s-klasse - aber was willst machen
Wär auf jeden Fall auch händler, rechnung garantie = 5090/rtx6000 = reindrücken happy sein
am ende brauchste halt 4x, 8x RTX6000 - vram, vram, mehr vram...

AMD/Nvidias letzten GPU karten gehn ja imemr mehr - 96gb vram, 128gb, 196gb vram...
blah - nicht das man sich halt mit ner einsamen 5090 verhaspelt, doch nicht vom fleck kommt

 

[Tuetensuppe]

Danke für das viele Feedback. Übernommen: 9900X

Wenn schon eine 9000er CPU, dann zumindest die 9950X, wie @Araska schrieb.
Die ist nur unwesentlich teurer, aber in Bezug auf Multicore-Leistung deutlich überlegen.
Siehe auch CB-Tests.