Unseriöses 600W vs. 600W Battle (5090 vs. 6000 Pro)

Zhan

Commander Pro
Registriert
Juni 2006
Beiträge
2.388
Derzeit ersetze ich meine Asus ROG Astral LC OC 5090 gegen eine Nvidia RTX 6000 Pro (600 Watt, Blackwell). Warum zur ... ich das mache? Tja, weil wegen AI. Ich hab damals die 5090 auch schon primär wegen lokaler AI gekauft (32GB VRAM, statt der 24 meiner 4090). War rückblickend eine dumme Entscheidung, ich hätte gleich das Geld für ne RTX 6000 Pro zusammen kratzen sollen. Gegamed wird trotzdem auch und da glänzt die 5090 mit Wakü und OC natürlich deutlich. Konstant bei 60 Grad - bei voller Last - und halt auch recht schnell. Zwei Highend-Monster im PC machen nun selbst für AI auch wenig Sinn (ausser sie sind identisch - also zwei Mal 32GB VRAM oder halt zwei Mal 96GB VRAM - wobei es auch Szenarien mit Parallelbetrieb mehrerer LLMs o.ä. gibt - aber die sind so selten. Lassen wir das. Jedenfalls habe ich aktuell beide Karten parallel in meinem PC und dachte ich kann mal Benchmarken.

Da ich jetzt keine echte Workstation habe, gelten ein paar Einschränkungen für das Testszenario - zu den Specs:

AMD 9950x3d (AIO Wakü)
192GB DDR5 Ram
Asus ProArt Creator X870E Mainboard
Asus ROG Astral LC OC 5090 (AIO Wakü)
Nividia RTX 6000 Pro (Workstation Edition, 600W, Luftkühlung)
beQuiet Dark Power Pro 13 (1600W)

Aktueller NVIDIA Studio Treiber, ECC für die 6000 aktiviert (für die 5090 ist Studio Treiber sicherlich auch nicht optimal)
Auf dem Asus Board laufen beide Grafikkarten mit PCIe5 aber eben nur mit x8 (und sind damit limiert)

Die 5090 hängt zudem an einem PCIe5 Risercable, da das thermisch sonst einfach nicht funktioniert hat mit beiden Karten gleichzeitig im System (konnte die 6000 nur mit 400 Watt betreiben, sonst war da nicht genug Raum zum Hitze wegtransportieren. Das ist alles nicht ideal, aber ich wollte die beiden Karten einfach Mal direkt gegeneinander antreten lassen ohne immer allzu viel rumbauen zu müssen. Weitere Einschränkung: Seit die 6000 Pro ECC aktiv hat, mag mein Graka-Tuning Tool nicht mehr. Mein fein ausgetüfteltes Undervolting etc. für die 5090 ist also nicht mehr aktiv. Da die Karte verkauft wird, hatte ich aber keine Lust das wieder zu aktivieren. Beide Karten laufen also mit Default-Werten. Das ist jetzt kein wissenschaftlicher Vergleich - immer gut möglich, dass ich was übersehe oder die Temps doch noch nicht wieder genug runter waren - ich hab mir aber Mühe gegeben einen fairen Vergleich hinzubekommen. Habe bei allen Tests einfach den ersten Run genommen. Also kein Warmup etc.pp. Und wie gesagt - das aktuelle Setup kann beide Karten vergleichen, wird aber dem eigentlichen Leistungsvermögen der beiden Karten nicht ganz gerecht - aber darum ging es mir auch nicht.

Die Tests:
Testinhalt5090 OC6000 ProAnmerkung
ComfyUI mit LTX 2.3 Videorenderin (persönliche Settings).
Angabe in Sekunden (niedriger also besser)
441,34s334,28sErstaunlich deutlicher Vorsprung der 6000 Pro
Timespy Steel Nomad
Punkte (mehr ist besser)
1502315777Erstaunlich, dass die 6000 Pro hier überhaupt vorne liegt
Cinebench R26
Punkte (mehr ist besser)
167344157945Funfact: Beide Karten zusammen erreichen 292478 Punkte 🤤 Der Test ist übrigens IMHO eher fragwürdig in Sachen maximale Auslastung einer Graka (die 6000 Pro wird nur mit 230 Watt statt der vollen 600 ausgelastet. Eigentlich sollte die 6000 Pro hier auch deutlich vorne liegen - keine Ahnung, wo es im Benchmark klemmt. Wenn ich auf 10 min Lasttest gehe, erzielt die 6000 auch deutlich höhere Werte.
Cyberpunk 2077 Benchmark
Aller Zirkus an (Pathtracing, 2x MFG, DLSS etc. - genaue Settings egal, dient ja nur dem direkten Vergleich)
FPS (mehr ist besser)
123,34 FPS126,56 FPSHab beide Karten an meinem LG 42" OLED TV - die 6000 Pro mit nem DP zu HDMI Adapterkabel - keine Ahnung, ob das ggf. auch Leistung kostet - die Synchronisierung mit 120Hz und HDR war reichlich hakelig.
LLM Test - Qwen 3.6 27B Q6_K mit 40k Kontextfenster
Analyse einer kruzen Übersetzung
TTFT (Promptprozessing)
In Sekunden (weniger ist besser)
1,311,27Womöglich im Rahmen der Messtoleranz
LLM Test - Qwen 3.6 27B Q6_K mit 40k Kontextfenster
Analyse einer kurzen Übersetzung
Tokengenerierung
Token/s (Mehr ist besser)
58,6157,49Womöglich im Rahmen der Messtoleranz
Gemma4 31B, F16
(gefinetuned, ca. 70 GB VRAM-Bedarf), ansonsten gleicher Test wie die beiden eben davor
18,41s TTFT
1,39 T/s
2,12s TTFT
23,07 T/s
Hab bei der 5090 nur teilweisen GPU Offload laufen lassen können, da die halt nur 32GB VRAM hat. Sowas ist halt der Grund für eine 6000 Pro.

Weitere Erkenntnisse - egal welche Last die 5090 OC mit AIO bleibt bei knapp über 60°C. Für die 6000 Pro musste ich erheblich umbauen um sie vom permanenten Throttling abzuhalten. Hab sie jetzt bei maximal 88°C mit vollen 600 Watt. Für lang laufende Trainingsruns würde ich sie aber doch eher drosseln auf so 450 Watt oder so. Am schönsten war Cinebench mit beiden Karten zusammen. Knapp 300k Punkte 😍

Ansonsten liegen die Karten erstaunlich unspektakulär zusammen - außer es wird viel VRAM verlangt, aber das ist ja auch der Grund für die 6000 Pro.

Aber so als Fazit: Ich bin eher erstaunt, dass die 6000 Pro in Spielebenchmarks nicht total abstinkt gegen die OC 5090, aber es gibt dennoch nur einen validen Grund für 6000 Pro: Man braucht wirklich 96GB VRAM und das in guter Geschwindigkeit. Wenn man nur den VRAM braucht, dann ist man mit einem Mac mit 128GB+ unified RAM oder einer DGX Spark besser beraten. Die kosten beide dramatisch weniger - sind halt aber auch deutlich langsamer (den Test hatte ich neulich auch mal hier gepostet: 5090 vs. DGX Spark vs. M4 Max MBP)
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: flashg0d, iron_monkey, JeanLegi und 10 andere
jo, eine geile kiste hast da....;)
 
  • Gefällt mir
Reaktionen: lazsniper und Aduasen
Ich denke hier sind einige mit deutlich dickeren Systemen unterwegs, aber ich bin in der Tat grad recht happy (auch wenn ich mich jetzt schweren Herzens von der 5090 trennen muss)
 
Danke für den Vergleich. Mich würde ja 300w vs 450w interessieren. Ich habe es so verstanden, dass nur die RTX6000pro so weit gedrosselt werden darf.

Wie lange es wohl dauern wird, bis Leute im Mainstream eine derart hohe Leistung haben werden?
 
Naja, sei froh, dass du die Karte gerade noch bekommen hast. Nvidia hat die Preise für alle Workstation Karten letzte Woche erst deutlich nach oben "korrigiert". Und wenn man das nicht wirklich gewinnbringend produktiv braucht und einsetzt, dann gibt keiner mal eben über 12.000 Euro für so ne Karte aus. Das lohnt sich einfach nicht. Die war vorher ja schon teuer...
 
Ein Tipp: ECC kannste Dir bei Deinem Workflow wohl sparen. Dann bekommste nochmals etliche GB VRAM frei und schneller isses auch.
 
  • Gefällt mir
Reaktionen: Zhan
  • Gefällt mir
Reaktionen: aluis
Hab mir auch schon den Kopf wegen der RTX Pro 6000 Blackwell zerbrochen. Ich habe aber davon abgesehen. Wenn ich die 80b Modelle laufen lassen könnte, würde ich mich wieder ärgern, keine 400b Modelle ausführen zu können. Irgendwo muss man auch mal die Grenze ziehen. Schließlich kann ein kleines Modell per Agent aufs Internet zugreifen, und weiß damit im Prinzip auch alles.
 
  • Gefällt mir
Reaktionen: lazsniper
Zhan schrieb:
Aber so als Fazit: Ich bin eher erstaunt, dass die 6000 Pro in Spielebenchmarks nicht total abstinkt gegen die OC 5090
Das wurde schon bei Launch festgestellt, z.b. durch Tests von der8auer und ist auch nicht verwunderlich.
Weniger Takt wird durch mehr Shader ausgeglichen.

@Zwirbelkatz mit 300W hat er auch getestet:
 
  • Gefällt mir
Reaktionen: floTTes
Sapphire Forum
Zurück
Oben