Geplanter KI‑Build mit 2× RTX 5090

[interesTED]

Ich habe für verschiedene Themen, die immer mit PDFs und Word Dokumenten bei der Arbeit zusammenhängen, recht intensiv mit den 14b Modellen getestet. Für so Themen wie Dokumentenabgleiche und orthographische Checks sind die ausreichend. Für inhaltliche Bewertungen von Sachverhalten merkt man schon, dass eine quantisierte Variante von Ministral 14b schlechter abschneidet als die, die man über die Mistral API erreicht (in meine private 4060 Ti 16 GB passt halt nicht mehr). Wenn ich jetzt als Kontext 50-100 Seiten mit reinnehme, bin ich bei 32GB echt knapp dran. Deswegen finde ich die Pro 6000 max Q so interessant, weil man da zur Not auch zwei in einen Tower packen kann und mutmaßlich trotzdem noch kein Kühlungsproblem habe.

 

[XBenutzerNameX]

entfernt

 

[Krik]

Cool! Und wie macht sie sich?

Und natürlich das Obligatorische: Does it run Crysis?

 

[XBenutzerNameX]

entfernt

 

[MoonTower]

Glückwunsch XBenutzerNameX! Mit genug VRAM stößt man in ganz neue Regionen vor.
@interesTED
"Luft- oder wassergekühlt?"
Luftgekühlt. Reicht auch jetzt im Sommer sehr gut aus. Bei 2x 300 Watt hat jede Karte dann unter Volllast ca. 82 Grad bei 60-66% Lüftergeschwindigkeit. Und meine Frontlüfter laufen nur bei 400 Umdrehungen, da die CPU im Gegensatz zu den GPUs in meinem Workflow fast nie was zu tun hat.

 

[C4rp3di3m]

@sikarr

Das Budget beträgt 2000 Euro, siehe 1. Post im Thread. Threadripper jeglicher Art sind folglich keine Option.

Jetzt so wie so nicht. CPU 1400€, MB 650€ hätte man aber schon mal. RDiMM kostete damals faire 375€ das Quadkit mit 64GB und jetzt frag besser nicht ...