Gehäuse für Dual-RTX5090

[Llama-Fan]

Hallo zusammen,

ich habe mir eine zweite RTX5090 gekauft (beides keine schlanken FEs). Derzeit betreibe ich die noch in zwei separaten PCs, aber möchte nächstes Jahr beide in einem System verbauen.

Komponenten:

• AMD Ryzen 9 9950
• Noctua NH-D15 chromax
• 64GB DDR5 RAM
• 1600W beQuiet PSU

Aktuelles Motherboard (ASR X670e PG Lightning) ist ungeeignet für Dual-GPU, ich denke daher darüber nach, das ASRock X870E Taichi zu kaufen. Kenne von einer anderen Website jemanden, der damit Dual-RTX5090 betreibt. Das funktioniert also vom PCI-Slot Spacing her (zweite GPU über Riser). Läuft zeitgleich dann nur mit x8/x8, aber das ist ok.

Habt ihr Vorschläge, welche Gehäuse dafür geeignet wären? (Und das ohne Wasserkühlung für die CPU.)

Das Lian Li O11 Dynamic EVO XL wäre eine Möglichkeit, wenn ich die zweite GPU vertikal verbaue. Aber das ist bisher das einzige Gehäuse, bei dem ich mir sicher bin, dass es vom Platz her passt.

Use Case: AI inference, ggf. Training. Die GPUs laufen dabei annähernd auf Maximallast (GPU 1 läuft derzeit mit fast 600W; GPU 2 ist "nur" eine 575W-Karte). Das Gehäuse sollte daher einen guten Air Flown haben.

Viele Grüße

 

[kachiri]

beides keine schlanken FEs

Sondern?

Ansonsten dürfte das halt mit den typischen 3-4 Slots eher schwierig bis unmöglich werden. Das Dynamic EVO XL könnte dahingehend deine Chance sein. Wobei man wohl hier auch wegen der "Länge" der GPU die man ohne Riser verbaut wohl auch gucken müsste.

Vor allem aber auch das Thema der Abwärme von bis zu 1200 Watt.

 

[Llama-Fan]

Sondern?

GPU 1: GIGABYTE GeForce RTX 5090 GAMING OC
GPU 2: ASUS GeForce RTX 5090 TUF GAMING OC*

*ggf. wird die noch getauscht gegen die etwas kleinere MSI 32GB D7 RTX 5090 VENTUS 3X OC.

Vor allem aber auch das Thema der Abwärme von bis zu 1200 Watt.

Ja, auf jeden Fall. Ich könnte ggf. etwas undervolten.

 

[DriveByFM]

Bei der Abwärme am besten sowas.
https://geizhals.de/fractal-design-torrent-black-solid-fd-c-tor1a-05-a2584614.html

Das O11 würde ich bei der Menge an Wärme direkt wieder vergessen, außer du kühlst alles extern mit ner Wakü, was du ja anscheinend nicht machen willst. ^^

 

[Llama-Fan]

Bei der Abwärme am besten sowas.
https://geizhals.de/fractal-design-torrent-black-solid-fd-c-tor1a-05-a2584614.html

Das hatte ich mir tatsächlich auch schon angeschaut. Konnte aber nichts dazu finden, ob man da eine GPU vertikal verbauen kann. Im O11 ist das vorgesehen (aber natürlich nicht mit zwei GPUs).

Das be quiet! Dark Base Pro 901 sieht auch geräumig aus. Aber auch bei dem konnte ich auf der Herstellerseite nichts zum vertikalen Einbau finden.

Im Cooler Master HAF 700 Evo kann man eine GPU vertikal verbauen, aber das Gehäuse gefällt mir optisch nicht besonders gut. (Und mir ist das Gehäuse auch etwas zu teuer.)

 

[madmax2010]

Aktuelles Motherboard (ASR X670e PG Lightning) ist ungeeignet für Dual-GPU, i

warum?
hat doch 3 lange slots. Da bekommst du 3 rein

*ggf. wird die noch getauscht gegen die etwas kleinere MSI 32GB D7 RTX 5090 VENTUS 3X OC.

VRAM Bandbreite >>> GPU Takt

Wir haben teils 4x 5090 auf einem B650M Board / B450M
Case weg lassen und gut ist

 

[Arboster]

Mein Gehäuse ist sehr groß, mit 2 x 200mm Lüftern vorne und oben kann man auch noch einige einbauen.
Aber wie willste das denn mit der Befestigung der zweiten (Riser)-GPU machen?
Bisher kenne ich nur Gehäuseumbausätze für eine Riser-GPU und dann keine im Board.

 

[Bricki]

Ja, auf jeden Fall. Ich könnte ggf. etwas undervolten.

Würde ich dir auf jedenfall empfehlen. Von der effizenz her sollte so 400-450Watt eigentlich am besten sein. Du wirst bisschen Performance verlieren. Aber in keinem Verhältnis zu der Wattzahl.

 

[motorazrv3]

Kenne von einer anderen Website jemanden, der damit Dual-RTX5090 betreibt.

Worin hat er denn dann die beiden RX5090 verbaut/verstaut?

 

[Llama-Fan]

warum?
hat doch 3 lange slots. Da bekommst du 3

Der freie Slot ist zwar so lang wie x16, aber kann nur x1, da nicht mit CPU, sondern Chipset verbunden. Siehe Seite 6 und 10: https://download.asrock.com/Manual/X670E PG Lightning.pdf

Ergänzung (Sonntag um 17:20)

Worin hat er denn dann die beiden RX5090 verbaut/verstaut?

So sieht das bei ihm aus (vertikal ist Gigabyte Gaming OC 5090):

 

[madmax2010]

reicht doch. Wenn du mehr Bandbreite auf PCIe brauchst, ist vermutlich was schief gegangen. Das Modell in den VRAM zu laden braucht ein paar Sekunden, aber dann geht das allermeiste intern. Wenn der vram am ueberlaufen ist, ist das schlecht

 

[JumpingCat]

@madmax2010 Für Inferenz aka "Ausführen" brauchst du vor allem einen niedrigen Delay. Da werden nur wenige Gigabyte über den Bus zwischen den GPus ausgetauscht. Je nach Modellgröße hast du dann aber auch mal 80 Layer wo die Daten weitergegeben werden.

Für Training aka Daten anlernen oder ein Modell trainieren ist schon die volle Bandbreite sinnvoll. Daher liefert hier Nvidia auch die Switche mit 800G.

3 oder 2 GPUs bringen bei Inferenz vor allem den Vorteil das das Modell komplett in den schnellen GPU RAM passt und nicht im lahmen normalen RAM liegt. Technisch wird es nicht schneller ausgeführt werden weil da alles noch sequentiell läuft. Erst bei mehreren parallelen Anfragen wird es schneller weil jede GPU einen Teil der jeweiligen Anfrage bearbeiten kann.

 

[madmax2010]

@JumpingCat absolut korrekt.
Zum Training von LLMs waeren die kleinen 5090 jetzt auch nicht meine Wahl. Dann doch lieber 1-2Tage eine Box mit 8B100 ist billiger, einfacher, stressfreier und Schneller

 

[Llama-Fan]

reicht doch. Wenn du mehr Bandbreite auf PCIe brauchst, ist vermutlich was schief gegangen. Das Modell in den VRAM zu laden braucht ein paar Sekunden, aber dann geht das allermeiste intern. Wenn der vram am ueberlaufen ist, ist das schlecht

Komm drauf an. Für Load Balancing kein Problem. Aber Inference mit Tensor Parallelism kann ich doch nicht sinnvoll mit einem x1-Slot machen, oder?

 

[buchemer]

Ich habe nur 2x 4070TiS in meinem System. Dennoch bekomme ich unter Vollast die 2te Karte nie über 70% Power Target. In der Regel Karte 1 auf 80% und Karte 2 auf 60%. Wenn ich es leise haben will entsprechend niedriger.
GPU Lüfter laufen auf 45%, Gehäuselüfter laufen auf ca. 50%