Threadripper 9970x Workstation

[killver]

Hallo zusammen,

ich plane einen neuen Build mit einem Threadripper 9970X und das Ziel ist, später bis zu 3-4 RTX 5090 zu betreiben. Um das Budget vorerst im Rahmen zu halten, werde ich zunächst mit einer einzigen RTX 5090 starten.

Das ist meine aktuell geplante Konfiguration:

• Mainboard: Gigabyte TRX50 AI TOP
• CPU: Threadripper 9970X
• Gehäuse: PHANTEKS Enthoo Pro 2 Server Big-Tower
• Netzteil: SEASONIC PRIME PX-2200 2200W
• Arbeitsspeicher (RAM): V-Color DDR5 | OC R-DIMM | AMD Ryzen TRX50 | Workstation Memory 4x48GB
• SSD: Samsung 4.0 TB 9100 PRO M.2 NVMe SSD
• CPU-Kühler: Silverstone SST-XE360-TR5 Wasserkühlung
• Gehäuselüfter: 3-4x?

Ich habe dazu ein paar Fragen:

1. Sieht die Zusammenstellung im Großen und Ganzen vernünftig aus?
2. Gibt es bessere Empfehlungen für das Gehäuse (Tower)? Bei der Kühlung bin ich mir auch sehr unsicher, da ich selbst noch nie eine Wasserkühlung verbaut habe. Ist die von mir ausgewählte eine gute Wahl? Oder sollte ich vielleicht sogar auf Luftkühlung setzen? Welche Art von Gehäuselüftern wäre zu empfehlen?
3. Was den RAM angeht: Ich habe gesehen, dass V-Color auf der QVL (Qualified Vendor List) des Mainboards steht, aber die Module sind für mich in Europa sehr schwer zu bestellen. Gibt es da gute Alternativen? Ich würde sogar 4x64GB bevorzugen, falls das funktioniert. Wäre alternativ auch eine Konfiguration mit 8x32GB möglich?

Vielen Dank im Voraus!

 

[MadDog]

schau mal

Diese Dinger habe ich einige Male bereits für Kunden gebaut

Arbeitest du damit / also verdienst du damit dein Geld? Dann kauf dir so etwas im Systemhaus, so von wegen Ausfallsicherheit etc pp

 

[Araska]

Das Gehäuse benutze ich selber - ich bin nicht unzufrieden.
Falls du übertreiben willst, kannst du dir ja mal das Thermaltake AX700 ansehen...

Beim Speicher - Frage; dir ist klar, daß die V-Color Overclocking darstellen?
Sowas in einer professionell genutzten Workstation ist... ziemlich mutig.

Die Kühlung wird wohl auch eine Spezialanfertigung - so viele 5090 bekommst du nicht auf ein EATX-Board, ohne die gesamte Chose unter Waser zu setzen.

Und - Im Fall einer professionellen Nutzung: Bestehst du darauf, den Krempel selbst zu konfigurieren und zusammenzuklöppeln?

 

[Fujiyama]

Das Board sieht nicht so vertrauenswürdig aus, gibt nicht ein richtiges Workstation Board für den Sockel?
So Spielzeug wie ne AiO würde ich auch nicht verbauen.
Warum keine richtige Fertige Workstation mit vernünftiger Hardware?

 

[wern001]

Ich würde da gleiche auf eine richtige Wasserkühlung gehen.
1. finde ich den Silverstone SST-XE360-TR5 viel zu teuer. Ich hatte mit einem TR der 2000er Serie eine LIQTECH TR4 II im einsatz und bei vollast und ca 330-350 Watt war das ding bei weitem nicht mehr leise.

2. bei 3-4 RTX5090 wirst Du um eine Wasserkühlung nicht mehr rumkommen

 

[00Julius]

bei 3-4 RTX5090

Das wird es wohl nicht werden (vor allem wassergekühlt) , da

mit GPU max 10k

 

[wern001]

@00Julius es heißt auch später und nicht sofort 3-4 RTX5090

Lieber gleich richtig anfangen als später die hälfe umbauen und wegwerfen.

 

[ruthi91]

Die Kühlung wird wohl auch eine Spezialanfertigung - so viele 5090 bekommst du nicht auf ein EATX-Board

Das oben genannte Gigabyte Board hat doch genau dafür 4 PCI-E Slots die jeweils 2 Slot breite Karten ermöglichen.
Mit 4 Nvidia FEs ist da sogar richtig viel Platz zur Belüftung zwischen.

2. bei 3-4 RTX5090 wirst Du um eine Wasserkühlung nicht mehr rumkommen

Äh ja genau und dann geht irgendwas schief und man ist stundenlang mit Troubleshooting beschäftigt, erst recht wenn man noch nie Wakü gemacht hat - der absolute Albtraum. Oder noch schlimmer: sündhaft teure Hardware geht kaputt.

Das oben genannte Gehäuse ist gut dafür geeignet. Slotblenden-Befestigungen reichen weit genug nach unten.
Graka Stützen sind auch 4 vorhanden.
Wenn man 1500-2000W Wärme umwandelt, passiert das nicht silent, sollte dem TE natürlich klar sein.

Soll als Computer server dienen, d.h. AI Training mit GPUs, aber auch diverse CPU/RAM lastige jobs

Warum keine RTX Pro 6000 mit 96GB Speicher?

SSD: Samsung 4.0 TB 9100 PRO M.2 NVMe SSD

Ich würd ja nicht die zweitschnellste nehmen, wäre irgendwie lächerlich bei dem Projekt oder?
https://www.computerbase.de/artikel/storage/wd-black-sn8100-ssd-im-test.92480/
Und RAID / Backup ?

 

[Tornhoof]

Jetzt etwas bauen für deine aktuellen Anforderungen, auf etwas größeres wechseln wenn notwendig. Der ganze AI Slop ändert sich so gewaltig schnell, dass ich aktuell die zukünftige Anforderung für mehr GPUs komplett ignorieren würde.

Als Kompromiss ggf gleich mit einer rtx pro 6000 starten, wie @ruthi91 schon geschrieben hat

 

[killver]

RTX Pro 6000 kostet das 4fache einer RTX 5090 und hat quasi dieselbe Performance bei 3facher VRAM Menge.
Da ich zwar auch die vram benötige, ist mir dennoch die Computer Performance wichtiger. Deshalb bekomme ich da 3-4 fachen Compute zum selben Preis der RTX 6000 Pro.

Eine 5090 FE kostet 2300€
Eine RTX 6000 Pro Q-Max kostet 8500 und die "normale" meistens 9-10k

Wasserkühlung braucht man auch bei 4 RTX 5090 nicht, da reicht die Luftkühlung absolut aus. Vor allem würde ich sie eventuell auch runtervolten auf 400-500Watt.

Das 10k Budget war natürlich auch mit 1er 5090 gemeint.

Wieso das Board nicht vertrauenswürdig aussehen sollte, versteh ich nicht. Das ist derzeit überall empfohlen und gibt mir auch die theoretische Möglichkeit auf TR Pro später zu wechseln weil das beides kann. Also beim Board bin ich fast am sichersten ehrlich gesagt.

Bezüglich Speicher, was wäre da eine gute Alternaitve zu V-Color? Es ist irgendwie schwer 4x48GB zu finden.

SSD nehme ich gerne die WD ja. RAID/Backup ist nicht wichtig, habe auch ein NAS noch nebenbei.

 

[Fujiyama]

Das Board sieht optisch eher nach Spielzeug aus, was haben die ganzen komischen Abdeckplatten da zu suchen? Würde ja eher was von Supermicro empfehlen, leider gibt es da noch nichts. Gigabyte ist Consumerhardware, komisch das die Marke gerade empfohlen wird.

 

[killver]

@Fujiyama Klingt nicht wirklich nach einer qualifizierten Kritik am Board.

Wirklich viele Optionen gibt es nicht, alternativ wäre noch das ASUS Pro WS TRX50-SAGE WIFI A

 

[Backfisch]

RTX Pro 6000 kostet das 4fache einer RTX 5090 und hat quasi dieselbe Performance bei 3facher VRAM Menge.

Naja, beim professionellen Einsatz in einem Unternehmen hast Du gemäß Nutzungsbedingungen eigentlich keine andere Wahl:

https://blog.managedhosting.de/wiss...-gpus-wie-der-nvidia-rtx-4090-im-unternehmen/

 

[killver]

@Backfisch Da geht es um produktiven Einsatz und so ein Kommentar hat wenig in einer Kaufberatung für eine Home Worksation zu suchen.

 

[KarlsruheArgus]

Möchtest du den PC für Bild-/Musik-/Videobearbeitung oder CAD nutzen? Soll als Computer server dienen, d.h. AI Training mit GPUs, aber auch diverse CPU/RAM lastige jobs

Ungenauer gings wohl nicht.
Hier würde ich mind. 20 Stichpunkte sehen wollen für was dieses System benötigt wird und ob es überhaupt für den Anwendungsfall geeignet ist.

Sieht die Zusammenstellung im Großen und Ganzen vernünftig aus?

Negativ, mehr nach Geld rausschmeißen.

Bei der Kühlung bin ich mir auch sehr unsicher, da ich selbst noch nie eine Wasserkühlung verbaut habe.

Seine ersten Customwasserkühlungsgehversuche bei derartigen System zu machen halte ich für fahrlässig.
Das sollte man zumindest ein bisschen vorher geübt und Erfahrungen gesammelt haben bestenfalls an gebrauchten System wo ein Schaden nicht direkt dein Vorhaben torpediert.

Oder sollte ich vielleicht sogar auf Luftkühlung setzen?

So richtig.

Was den RAM angeht: Ich habe gesehen, dass V-Color auf der QVL (Qualified Vendor List) des Mainboards steht, aber die Module sind für mich in Europa sehr schwer zu bestellen.

Sich an die Herstellerspezifikation zu halten und die QVL zu ignorieren ist auch eine Option.
QVLs sind Broschüren für Übertakter und erheben keine Anspruch auf Richtigkeit und oder Vollständigkeit, eine fortlaufende Qualitätskontrolle/Nachprüfung findet nicht statt.

Ergänzung (15. August 2025)

Da geht es um produktiven Einsatz und so ein Kommentar hat wenig in einer Kaufberatung für eine Home Worksation zu suchen.

Wenn du keine klaren Angaben machst musst du dich nicht über solche Rückmeldungen wundern.

 

[tomgit]

RTX Pro 6000 kostet das 4fache einer RTX 5090 und hat quasi dieselbe Performance bei 3facher VRAM Menge.
Da ich zwar auch die vram benötige, ist mir dennoch die Computer Performance wichtiger. Deshalb bekomme ich da 3-4 fachen Compute zum selben Preis der RTX 6000 Pro.

Was waren nochmal die Anforderungen? Achja

Soll als Computer server dienen, d.h. AI Training mit GPUs, aber auch diverse CPU/RAM lastige jobs

Und was glaubst du, was mit der Compute Leistung passiert, wenn der VRAM limitiert? Was mit der Computer Leistung passiert, wenn der selbe Job auf multiple GPUs aufgeteilt wird, welche dann nur über PCIe angesprochen werden und keine direkte Bridge zwischen den GPUs besteht?
Gibt durchaus Gründe, warum etwa H100s/B100s mit zusätzlichen Bridges miteinander verbunden sind, damit es zwischen den GPUs zu keinen Bottlenecks kommt.

Wasserkühlung braucht man auch bei 4 RTX 5090 nicht, da reicht die Luftkühlung absolut aus. Vor allem würde ich sie eventuell auch runtervolten auf 400-500Watt.

Gutes Ziel bei einer GPU, welche selbst im Worst Case eigentlich kaum 500W überschreitet.

Wieso das Board nicht vertrauenswürdig aussehen sollte, versteh ich nicht. Das ist derzeit überall empfohlen und gibt mir auch die theoretische Möglichkeit auf TR Pro später zu wechseln weil das beides kann.

Was jedes sTR5 Board kann.

SSD nehme ich gerne die WD ja. RAID/Backup ist nicht wichtig, habe auch ein NAS noch nebenbei.

Also wenn dir Bottlenecks egal sind, kannst auch mit einer kleineren Maschine einsteigen.

 

[killver]

Dieses Forum ist wirklich unnötig. Bitte den Thread schließen.

Alles was hier an Feedback zurück kommt sind dass das Board nicht hübsch genug sind, dass das Geld rausgeschmissen wird, oder man versucht mir zu erklären wie viel vram oder compute ich benötige obwohl das gar nicht Gegenstand der Frage war. Und man fühlt sich ehrlich gesagt eher angegriffen als dass einem geholfen wird.

Danke für das Feedback bzg. Wasserkühlung, SSDs und RAM, das hilft weiter.

Hier aber noch kurze Antworten am Ende:

Und was glaubst du, was mit der Compute Leistung passiert, wenn der VRAM limitiert? Was mit der Computer Leistung passiert, wenn der selbe Job auf multiple GPUs aufgeteilt wird, welche dann nur über PCIe angesprochen werden und keine direkte Bridge zwischen den GPUs besteht?
Gibt durchaus Gründe, warum etwa H100s/B100s mit zusätzlichen Bridges miteinander verbunden sind, damit es zwischen den GPUs zu keinen Bottlenecks kommt.

Es gibt so etwas wie DDP/FSDP Training, 16x PCIE 5.0 ist da aber absolut ausreichend, aber auch ein Grund wieso ich 16x PCIE 5.0 möchte und eben kein abgespecktes Ryzen 8x PCIE.
VRAM brauchst du auch, kannst du aber im DDP Training eben über mehrere GPUs verteilen, sharden. D.h. wenn du weißt was du machst, kannst du mit 3x 5090 zb die dreifache Performance einer RTX 6000 haben bei gleicher VRAM Menge aber natürlich auch 3facher Watt. Aber Performance ist natürlich dreifach.

Was jedes sTR5 Board kann.

Meines Wissens nach gibt es kein anderes Board welches 8 RAM slots hat und dadurch einen flüssiges Upgrade auf einen TR Pro erlaubt.

 

[Fujiyama]

Scheinbar hast du mich komplett falsch verstanden, eigentlich wollte ich damit sagen das ich die
Finger von dem optisch aufgehübschten Board lassen würde (was es ja ist mit den komischen Platten auf dem Board die überflüssig sind). Stattdessen würde ein richtiges Workstation Board zu kaufen. Am Geld sollte es ja nicht scheitern.

 

[KarlsruheArgus]

Dieses Forum ist wirklich unnötig. Bitte den Thread schließen.

Ohne Infos ist eben keine sinnvolle Hilfestellung möglich.

...dass das Geld rausgeschmissen wird,...

Wenn das alles ist was du aus meine Beitrag genommen hast wünsche ich dir einen angenehmen Resttag.

Ohne ordentlichen Input auch kein Output.

 

[wern001]

Wasserkühlung braucht man auch bei 4 RTX 5090 nicht, da reicht die Luftkühlung absolut aus. Vor allem würde ich sie eventuell auch runtervolten auf 400-500Watt.

klar kann man die auch per Luft kühlen aber nicht mit dem gehäuse und nicht mit der Founders ding.
Da nutzt man dann Grafikkarten mit semipasiven Kühlkörper und die Gehäuselüfter pusten dann die Luft dadurch

Das sieht dann ungefähr so aus