AM4-PC für zwei nvidia 5060 TI

[ActivEnergy]

Hallo,
ich habe zwei "ASUS Dual GeForce RTX 5060 Ti 16GB GDDR7 OC Edition Gaming Grafikkarte" (https://www.idealo.de/preisvergleic...5_-geforce-rtx-5060-ti-16gb-dual-oc-asus.html) sowie eine AMD Ryzen 5600 AM4-CPU. Ich möchte einen Zweit-PC mit den genannten Komponenten bauen, um LLMs zu betreiben und bisschen zu spielen. Ich hatte auch über AM5 nachgedacht, aber die Preise sind dann doch zu hoch, wenn ich Richtung 64 GB RAM denke und das "nur" ein Zweit-PC wird.

Weitere angedachte Komponenten baiserend auf den Leitfäden hier:

• ASRock B550M Phantom Gaming 4 oder MSI B550-A Pro
• gebraucht Corsair VENGEANCE LPX 64GB (2x32GB) DDR4 kaufen
• be quiet! Pure Power 13 M 850W, ATX 3.1
• m.2-SSD schaue ich nochmal. Ich habe aber welche übrig, die ich einbauen kann. Datenträger kann also hier unberücksichtigt bleiben in der Beratung.
• Als Lüfter den ARCTIC Freezer 36

Es gibt für entsprechende Workloads ja auch X470-Mainboards und ähnliches, wo die zweite GPU schneller angebunden ist als bei obigen Mainboards, aber das brauche ich nicht. Ich betreibe die zwei GPUs bereits auf einem entsprechend "einfachen" Mainboard und die Leistung reicht. Was jetzt noch genau offen ist, welches Mainboard und Gehäuse ich final nutzen sollte. Ich will keinen riesigen Tower, sondern gerne einen, der etwas kompakter ist (soweit dies bei zwei GPUs möglich ist). Ich weiß nicht, ob ein Micro ATX evtl zu klein ist. Was wäre eure Ideen oder Empfehlungen? Die Lösung muss nicht super leise sein, sondern gerne etwas kompakter, aber ausreichend gekühlt durch entsprechende Lüfter. Danke euch.

 

[HerrRossi]

Ich möchte einen Zweit-PC mit den genannten Komponenten bauen, um LLMs zu betreiben und bisschen zu spielen

Für LLM wäre es interessant, beide GPUs zusammen auf einem MB zu betreiben und größere Modelle zu laden. Aber darauf achten, dass die Modelle mit "tensor parallelism" laufen: https://github.com/ggml-org/llama.cpp/blob/master/docs/multi-gpu.md

 

[incurable]

Mit der Karte sind "echte" Mikro-ATX-Gehäuse sowieso raus, weil sie mehr als 2 Schlitze belegt und das Gehäuse damit Luft für mindestens 6 Steckplätze haben muss.

 

[AMD-Flo]

Wenn du ein gemeinsames Modell auf beiden GPUs ausführen willst, ist die PCIe Anbindung sehr relevant. Dazu würde ich nach einem X570 Board Ausschau halten, dass auf 2 Slots PCIe 4.0 x8 bieten. Selbst das reduziert die Bandbreite auf 50%. Mit einem B550 Board reduziert sich die Bandbreite mit PCIe 3.0 x4 auf 12,5%.

Auch bei der CPU würde ich nicht knausern, lieber gleich 12 oder 16 Kerne. Ist im Vergleich zum Rest fast geschenkt.

 

[xxMuahdibxx]

neu bekommt man nur gerade kein einziges vernünftiges

X570er was genau das kann

 

[ActivEnergy]

lieber gleich 12 oder 16 Kerne.

Ich habe bereits eine CPU. Ich möchte keine weitere CPU kaufen.

X570 Board

So ein Board brauche ich wie oben geschrieben für den Zweit-PC nicht. Ich möchte hier eine möglichst günstige Lösung, die für meine Ansprüche ausreicht. Neue CPU und X570 Mainboard verteuert den Bau ohne dass ich das Mehr an Leistung abrufe. Die Leistung eines B550 reicht.

Mit der Karte sind "echte" Mikro-ATX-Gehäuse sowieso raus

Gut zu wissen. Dann schaue ich bei den normalen Gehäusen.

Aktuell tendiere ich zu https://preisvergleich.heise.de/phanteks-xt-pro-ultra-satin-black-ph-xt523p1-dbk01-a3147261.html und dem Asrock B550M Gaming Mainboard. Ohne RAM wäre ich bei 280€. 64 GB DDR4 kosten gebraucht gut und gerne 300€. Wären 580€. Das wäre im angpeilten Budget.

 

[xxMuahdibxx]

wie schon gesagt B550er Board

1xPCIe 4.0 x16 und 1xPCIe 3.0 x4 ...

die zweite Karte wird komplett eingebremst.

Ein X570 AORUS MASTER könnte das z.b. oder das was dir die KI Suchmaschine so ausspuckt wie..

Gute X570-Kandidaten​

Mainboard	1. Slot	2. Slot bei Belegung	Besonderheit
ASUS ProArt X570-Creator WiFi	PCIe 4.0 x16	PCIe 4.0 x8	sehr gute Ausstattung
ASUS Pro WS X570-ACE	PCIe 4.0 x16	PCIe 4.0 x8	Workstation-orientiert
ASUS Prime X570-Pro	PCIe 4.0 x16	PCIe 4.0 x8	günstiger
MSI MEG X570 ACE	PCIe 4.0 x16	PCIe 4.0 x8	sehr hochwertig
MSI MEG X570 Unify	PCIe 4.0 x16	PCIe 4.0 x8	ohne RGB, sehr solide
MSI Prestige X570 Creation	PCIe 4.0 x16	PCIe 4.0 x8	Workstation/Creator
MSI MEG X570 Godlike	x8/x0/x8 möglich	PCIe 4.0 x8	3 große PCIe-Slots
ASRock X570 Creator	PCIe 4.0 x16	PCIe 4.0 x8	10-Gbit-LAN
Gigabyte X570 Aorus Xtreme	PCIe 4.0 x16	PCIe 4.0 x8	High-End

​

Bitte gegenchecken aber.

 

[AMD-Flo]

Die Leistung eines B550 reicht.

Es geht nur um die PCIe Anbindung und die bremst deine LLMs komplett ein. Die GPUs langweiilen sich. Der 5600 lässt sich gut verkaufen. Vielleicht findest du auch ein passendes Sockel 1700 Bundle mit 2x PCIe 4.0 oder 5.0 x8.

 

[ActivEnergy]

Für mich ist wichtiger der Punkt Wärmeentwicklung und welches Gehäuse am besten für zwei GPUs in meinem Anwendungsfall.

 

[xxMuahdibxx]

ist egal die eine Rechnet ja nur zu 20% ...da entsteht keine Wärme.

 

[D0m1n4t0r]

Mal was komplett anderes für Bastler und probierfreudige, was aber erstaunlich gut funktioniert.

Micro-ATX Mainboard: PANDL / Machinist X99 XD3 (Baugleich)
z.b. https://de.aliexpress.com/item/1005012124258225.html
oder https://de.aliexpress.com/item/1005010643814102.html

Alternativ für ATX das hier:
https://de.aliexpress.com/item/1005006395774281.html
Bundle aus X99 T8 Board mit 8 RAM Slots für 8x 16 GB DDR3 ECC reg
und dazu den xeon e5 2696 v4 als CPU. (Leistungstechnisch etwas höher als ca. Ryzen 5 8400F).

CPU: Xeon E5 2696 V4 (kann sowohl DDR3 als auch DDR4)
ebay / Ali Express ca. 60-100 € (schwankt)

RAM:
4x 16 GB DDR3-1600 / 1866 ECC reg
ebay / Kleinanzeigen ca. 50,- € gebraucht.
bzw. 4x 32 GB oder 8x 16 GB DDR3-1600 / 1866 ECC reg für gebraucht 100,- €

CPU + Board ca. 150,- €
64 GB DDR3 ECC reg ca. 50 Euro
Gehäuse + Netzteil + CPU Kühler ~ 150,- €

Damit kommt man auf irgendwas zwischen 300 und 400 Euro bei extrem geringen Kosten für den RAM, der eigentlich das wichtigste bei LLMs ist. RAM kann man gar nicht genug haben.

Beim RAM muss man evtl. bissel suchen bis man den richtigen findet.
ich hab auf ebay z.b. den gefunden:
https://www.ebay.de/itm/178100675934

Und ja, die Hardware ist an sich bissel veraltet, aber dadurch dass DDR3 ECC RAM gradmal 12-15 Euro für ein 16 GB Modul kostet kann man im Bereich LLMs sich was extrem günstiges mit massig RAM zusammenbauen.

 

[Outlaw9876]

Nabend!

Ich habe in einem be quiet! Pure Base 500DX einen Ryzen Threadripper 1920X zusammen mit einer Radeon Pro VII und einer Radeon RX 560 im Einsatz.

Bevor ich die Radeon Pro VII hatte, waren im dem PC drei RX 560 und eine RX 550.

Der PC läuft regelmäßig tagelang und rechnet für diverse BOINC-Projekte.

Temperaturprobleme hatte ich noch nie.

Zwei 140 mm Lüfter in der Front, ein 140 mm im Heck und ein 140 mm hinten im Deckel.

https://geizhals.de/be-quiet-pure-base-500dx-schwarz-bgw37-a2273753.html?hloc=de

https://boinc.berkeley.edu/