Was wird hier getestet:
Dual-Setup mit 5090 OC LC und einer RTX 6000 Pro (Workstation-Variante 600W). Zudem welchen Einfluss ECC ein/aus auf die 6000 Pro hat, wie die RTX 6000 Pro sich mit nur 300W schlägt und wieviel man verliert, wenn man zusätzlich zur RTX 6000 Pro eine zweite Karte im System hat. Die Testwerte in der Tabelle quasi von links nach rechts lesen, da ich immer Bezug zur Spalte davor nehme (ausser beim letzten Run, da zur vorletzten Spalte).Die zweite Karte nicht im System zu haben bringt der 6000er jedenfalls zwischen nix und 17% (TTFT bei LLM) mehr Speed - die teilweise hohen Zahlen haben mich bei dieser Testreihe ebenso überrascht, wie der ausbleibende Gewinn bei T/s.
3. Update 2.6.26 19:16: So, jetzt hab ich die 5090 ausgebaut und die 6000 Pro ist alleinige Karte im System. Hab daher nochmal einen Run mit dieser gemacht - nun mit voller PCIe x16 Anbindung und minimal besserem Airflow. Diese letzte Reihe ist ein bissel ausser Konkurrenz bzgl. des Vergleichs zur 5090 - mit der habe ich vor dem Einbau der 6000 leider keine passenden Werte für diese Testreihe gezogen. Man sieht aber so zumindest, was man bei der 6000 Pro verliert, wenn eine zweite Karte mit im System ist (und man nur ein Consumer-Board hat an Stelle einer richtigen Workstation).
2. Update 2.6.26 15:54: Habe mal zusätzlich die 300Watt-Variante der 6000 Pro simuliert. 50% weniger Strom bringen grob zwischen 5% und 40% weniger Leistung (und rund 24° weniger Hitze in der GPU (im Peak von 88° auf 64° runter!) - respektive bis zu knapp 60% längeren Rechenzeiten z.B. in Comfyui (was 37,5% weniger Leistung entspricht). Wie schlimm die 300W weniger sind, hängt also am konkreten Usecase.
1. Update 2.6.26 14:30: Habe zusätzlich ECC an/aus bei der 6000 Pro verglichen -> 0-5% Performance-Gewinn bei ECC aus.
Ursprungstext:
Derzeit ersetze ich meine Asus ROG Astral LC OC 5090 gegen eine Nvidia RTX 6000 Pro (600 Watt, Blackwell). Warum zur ... ich das mache? Tja, weil wegen AI. Ich hab damals die 5090 auch schon primär wegen lokaler AI gekauft (32GB VRAM, statt der 24 meiner 4090). War rückblickend eine dumme Entscheidung, ich hätte gleich das Geld für ne RTX 6000 Pro zusammen kratzen sollen. Gegamed wird trotzdem auch und da glänzt die 5090 mit Wakü und OC natürlich deutlich. Konstant bei 60 Grad - bei voller Last - und halt auch recht schnell. Zwei Highend-Monster im PC machen nun selbst für AI auch wenig Sinn (ausser sie sind identisch - also zwei Mal 32GB VRAM oder halt zwei Mal 96GB VRAM - wobei es auch Szenarien mit Parallelbetrieb mehrerer LLMs o.ä. gibt - aber die sind so selten. Lassen wir das. Jedenfalls habe ich aktuell beide Karten parallel in meinem PC und dachte ich kann mal Benchmarken.
Da ich jetzt keine echte Workstation habe, gelten ein paar Einschränkungen für das Testszenario - zu den Specs:
AMD 9950x3d (AIO Wakü)
192GB DDR5 Ram
Asus ProArt Creator X870E Mainboard
Asus ROG Astral LC OC 5090 (AIO Wakü)
Nividia RTX 6000 Pro (Workstation Edition, 600W, Luftkühlung)
beQuiet Dark Power Pro 13 (1600W)
Aktueller NVIDIA Studio Treiber, ECC für die 6000 aktiviert (für die 5090 ist Studio Treiber sicherlich auch nicht optimal)
Auf dem Asus Board laufen beide Grafikkarten mit PCIe5 aber eben nur mit x8 (und sind damit limiert)
Die 5090 hängt zudem an einem PCIe5 Risercable, da das thermisch sonst einfach nicht funktioniert hat mit beiden Karten gleichzeitig im System (konnte die 6000 nur mit 400 Watt betreiben, sonst war da nicht genug Raum zum Hitze wegtransportieren. Das ist alles nicht ideal, aber ich wollte die beiden Karten einfach Mal direkt gegeneinander antreten lassen ohne immer allzu viel rumbauen zu müssen. Weitere Einschränkung: Seit die 6000 Pro ECC aktiv hat, mag mein Graka-Tuning Tool nicht mehr. Mein fein ausgetüfteltes Undervolting etc. für die 5090 ist also nicht mehr aktiv. Da die Karte verkauft wird, hatte ich aber keine Lust das wieder zu aktivieren. Beide Karten laufen also mit Default-Werten. Das ist jetzt kein wissenschaftlicher Vergleich - immer gut möglich, dass ich was übersehe oder die Temps doch noch nicht wieder genug runter waren - ich hab mir aber Mühe gegeben einen fairen Vergleich hinzubekommen. Habe bei allen Tests einfach den ersten Run genommen. Also kein Warmup etc.pp. Und wie gesagt - das aktuelle Setup kann beide Karten vergleichen, wird aber dem eigentlichen Leistungsvermögen der beiden Karten nicht ganz gerecht - aber darum ging es mir auch nicht.
Die Tests:
Weitere Erkenntnisse - egal welche Last die 5090 OC mit AIO bleibt bei knapp über 60°C. Für die 6000 Pro musste ich erheblich umbauen um sie vom permanenten Throttling abzuhalten. Hab sie jetzt bei maximal 88°C mit vollen 600 Watt. Für lang laufende Trainingsruns würde ich sie aber doch eher drosseln auf so 450 Watt oder so. Am schönsten war Cinebench mit beiden Karten zusammen. Knapp 300k Punkte 😍
Ansonsten liegen die Karten erstaunlich unspektakulär zusammen - außer es wird viel VRAM verlangt, aber das ist ja auch der Grund für die 6000 Pro.
Aber so als Fazit: Ich bin eher erstaunt, dass die 6000 Pro in Spielebenchmarks nicht total abstinkt gegen die OC 5090, aber es gibt dennoch nur einen validen Grund für 6000 Pro: Man braucht wirklich 96GB VRAM und das in guter Geschwindigkeit. Wenn man nur den VRAM braucht, dann ist man mit einem Mac mit 128GB+ unified RAM oder einer DGX Spark besser beraten. Die kosten beide dramatisch weniger - sind halt aber auch deutlich langsamer (den Test hatte ich neulich auch mal hier gepostet: 5090 vs. DGX Spark vs. M4 Max MBP)
Dual-Setup mit 5090 OC LC und einer RTX 6000 Pro (Workstation-Variante 600W). Zudem welchen Einfluss ECC ein/aus auf die 6000 Pro hat, wie die RTX 6000 Pro sich mit nur 300W schlägt und wieviel man verliert, wenn man zusätzlich zur RTX 6000 Pro eine zweite Karte im System hat. Die Testwerte in der Tabelle quasi von links nach rechts lesen, da ich immer Bezug zur Spalte davor nehme (ausser beim letzten Run, da zur vorletzten Spalte).Die zweite Karte nicht im System zu haben bringt der 6000er jedenfalls zwischen nix und 17% (TTFT bei LLM) mehr Speed - die teilweise hohen Zahlen haben mich bei dieser Testreihe ebenso überrascht, wie der ausbleibende Gewinn bei T/s.
3. Update 2.6.26 19:16: So, jetzt hab ich die 5090 ausgebaut und die 6000 Pro ist alleinige Karte im System. Hab daher nochmal einen Run mit dieser gemacht - nun mit voller PCIe x16 Anbindung und minimal besserem Airflow. Diese letzte Reihe ist ein bissel ausser Konkurrenz bzgl. des Vergleichs zur 5090 - mit der habe ich vor dem Einbau der 6000 leider keine passenden Werte für diese Testreihe gezogen. Man sieht aber so zumindest, was man bei der 6000 Pro verliert, wenn eine zweite Karte mit im System ist (und man nur ein Consumer-Board hat an Stelle einer richtigen Workstation).
2. Update 2.6.26 15:54: Habe mal zusätzlich die 300Watt-Variante der 6000 Pro simuliert. 50% weniger Strom bringen grob zwischen 5% und 40% weniger Leistung (und rund 24° weniger Hitze in der GPU (im Peak von 88° auf 64° runter!) - respektive bis zu knapp 60% längeren Rechenzeiten z.B. in Comfyui (was 37,5% weniger Leistung entspricht). Wie schlimm die 300W weniger sind, hängt also am konkreten Usecase.
1. Update 2.6.26 14:30: Habe zusätzlich ECC an/aus bei der 6000 Pro verglichen -> 0-5% Performance-Gewinn bei ECC aus.
Ursprungstext:
Derzeit ersetze ich meine Asus ROG Astral LC OC 5090 gegen eine Nvidia RTX 6000 Pro (600 Watt, Blackwell). Warum zur ... ich das mache? Tja, weil wegen AI. Ich hab damals die 5090 auch schon primär wegen lokaler AI gekauft (32GB VRAM, statt der 24 meiner 4090). War rückblickend eine dumme Entscheidung, ich hätte gleich das Geld für ne RTX 6000 Pro zusammen kratzen sollen. Gegamed wird trotzdem auch und da glänzt die 5090 mit Wakü und OC natürlich deutlich. Konstant bei 60 Grad - bei voller Last - und halt auch recht schnell. Zwei Highend-Monster im PC machen nun selbst für AI auch wenig Sinn (ausser sie sind identisch - also zwei Mal 32GB VRAM oder halt zwei Mal 96GB VRAM - wobei es auch Szenarien mit Parallelbetrieb mehrerer LLMs o.ä. gibt - aber die sind so selten. Lassen wir das. Jedenfalls habe ich aktuell beide Karten parallel in meinem PC und dachte ich kann mal Benchmarken.
Da ich jetzt keine echte Workstation habe, gelten ein paar Einschränkungen für das Testszenario - zu den Specs:
AMD 9950x3d (AIO Wakü)
192GB DDR5 Ram
Asus ProArt Creator X870E Mainboard
Asus ROG Astral LC OC 5090 (AIO Wakü)
Nividia RTX 6000 Pro (Workstation Edition, 600W, Luftkühlung)
beQuiet Dark Power Pro 13 (1600W)
Aktueller NVIDIA Studio Treiber, ECC für die 6000 aktiviert (für die 5090 ist Studio Treiber sicherlich auch nicht optimal)
Auf dem Asus Board laufen beide Grafikkarten mit PCIe5 aber eben nur mit x8 (und sind damit limiert)
Die 5090 hängt zudem an einem PCIe5 Risercable, da das thermisch sonst einfach nicht funktioniert hat mit beiden Karten gleichzeitig im System (konnte die 6000 nur mit 400 Watt betreiben, sonst war da nicht genug Raum zum Hitze wegtransportieren. Das ist alles nicht ideal, aber ich wollte die beiden Karten einfach Mal direkt gegeneinander antreten lassen ohne immer allzu viel rumbauen zu müssen. Weitere Einschränkung: Seit die 6000 Pro ECC aktiv hat, mag mein Graka-Tuning Tool nicht mehr. Mein fein ausgetüfteltes Undervolting etc. für die 5090 ist also nicht mehr aktiv. Da die Karte verkauft wird, hatte ich aber keine Lust das wieder zu aktivieren. Beide Karten laufen also mit Default-Werten. Das ist jetzt kein wissenschaftlicher Vergleich - immer gut möglich, dass ich was übersehe oder die Temps doch noch nicht wieder genug runter waren - ich hab mir aber Mühe gegeben einen fairen Vergleich hinzubekommen. Habe bei allen Tests einfach den ersten Run genommen. Also kein Warmup etc.pp. Und wie gesagt - das aktuelle Setup kann beide Karten vergleichen, wird aber dem eigentlichen Leistungsvermögen der beiden Karten nicht ganz gerecht - aber darum ging es mir auch nicht.
Die Tests:
| 1 | 2 | 3 | 4 | 5 | ||
|---|---|---|---|---|---|---|
| Testinhalt | 5090 OC LC 600 Watt PCIe5x8 | 6000 Pro 600 Watt PCIe5x8 ECC | 6000 Pro 600 Watt PCIe5x8 ohne ECC | 6000 Pro 300 Watt PCIe5x8 ohne ECC | 6000 Pro 600 Watt PCIe5x16 ohne ECC | Anmerkung |
| ComfyUI mit LTX 2.3 Videorendering (persönliche Settings). Angabe in Sekunden (niedriger also besser) | 441,34s | 334,28s | 324,48s -2,93% (zu Spalte davor) | 528,95s +58,23% (zu Spalte davor) | 289,04s -10,92%! (zu Spalte 3) | Erstaunlich deutlicher Vorsprung der 6000 Pro, erstaunlich großer Sprung bei x16 Anbindung |
| Timespy Steel Nomad Punkte (mehr ist besser) | 15023 | 15777 | 15950 +1,1% (zu Spalte davor) | 9604 -39,71% (zu Spalte davor) | 15973 +0,14% (zu Spalte 3 - Messtoleranz) | Erstaunlich, dass die 6000 Pro hier überhaupt vorne liegt |
| Cinebench R26 Punkte (mehr ist besser) | 167344 | 157945 | 166094 +5,15% (zu Spalte davor) | 157981 -4,9% (zu Spalte davor - aber minimal besserer Wert als bei 600 Watt mit ECC!!) | 171678 +3,36% (zu Spalte 3) | Funfact: Beide Karten zusammen erreichen 292478 Punkte 🤤 Der Test ist übrigens IMHO eher fragwürdig in Sachen maximale Auslastung einer Graka (die 6000 Pro wird nur mit 230 Watt statt der vollen 600 ausgelastet. Eigentlich sollte die 6000 Pro hier auch deutlich vorne liegen - keine Ahnung, wo es im Benchmark klemmt. Wenn ich auf 10 min Lasttest gehe, erzielt die 6000 auch deutlich höhere Werte. |
| Cyberpunk 2077 Benchmark Aller Zirkus an (Pathtracing, 2x MFG, DLSS etc. - genaue Settings egal, dient ja nur dem direkten Vergleich) FPS (mehr ist besser) | 123,34 FPS | 126,56 FPS | 126,58 FPS 1,29 | 82,31 FPS -35% (zu Spalte davor) | 127,69 FPS +0,87% (zu Spalte 3) | Hab beide Karten an meinem LG 42" OLED TV - die 6000 Pro mit nem DP zu HDMI Adapterkabel - keine Ahnung, ob das ggf. auch Leistung kostet - die Synchronisierung mit 120Hz und HDR war reichlich hakelig. |
| LLM Test - Qwen 3.6 27B Q6_K mit 40k Kontextfenster Analyse einer kruzen Übersetzung TTFT (Promptprozessing) In Sekunden (weniger ist besser) | 1,31 | 1,27 | 1,29 | 1,92 +48,83% (zu Spalte davor) | 1,21 -6,2% (zu Spalte 3) | Womöglich im Rahmen der Messtoleranz (bis auf 300W) |
| LLM Test - Qwen 3.6 27B Q6_K mit 40k Kontextfenster Analyse einer kurzen Übersetzung Tokengenerierung Token/s (Mehr ist besser) | 58,61 | 57,49 | 59,28 | 45,22 -23,71% (zu Spalte davor) | 59,19 -0,71% (zu Spalte 3 - Messtoleranz?) | Womöglich im Rahmen der Messtoleranz (bis auf 300W) |
| Gemma4 31B, F16 (gefinetuned, ca. 70 GB VRAM-Bedarf), ansonsten gleicher Test wie die beiden eben davor | 18,41s TTFT 1,39 T/s | 2,12s TTFT 23,07 T/s (ca.9x besser bei TTFT und 16x bei T/s verglichen mit 5090OC!) | 2,12s TTFT 23,37 T/s | 2,27s TTFT +7% 22,2 T/s -5% | 1,76s TTFT -16,98% 23,05 T/s +0,8% (zu Spalte 3) | Hab bei der 5090 nur teilweisen GPU Offload laufen lassen können, da die halt nur 32GB VRAM hat. Sowas ist halt der Grund für eine 6000 Pro. |
Weitere Erkenntnisse - egal welche Last die 5090 OC mit AIO bleibt bei knapp über 60°C. Für die 6000 Pro musste ich erheblich umbauen um sie vom permanenten Throttling abzuhalten. Hab sie jetzt bei maximal 88°C mit vollen 600 Watt. Für lang laufende Trainingsruns würde ich sie aber doch eher drosseln auf so 450 Watt oder so. Am schönsten war Cinebench mit beiden Karten zusammen. Knapp 300k Punkte 😍
Ansonsten liegen die Karten erstaunlich unspektakulär zusammen - außer es wird viel VRAM verlangt, aber das ist ja auch der Grund für die 6000 Pro.
Aber so als Fazit: Ich bin eher erstaunt, dass die 6000 Pro in Spielebenchmarks nicht total abstinkt gegen die OC 5090, aber es gibt dennoch nur einen validen Grund für 6000 Pro: Man braucht wirklich 96GB VRAM und das in guter Geschwindigkeit. Wenn man nur den VRAM braucht, dann ist man mit einem Mac mit 128GB+ unified RAM oder einer DGX Spark besser beraten. Die kosten beide dramatisch weniger - sind halt aber auch deutlich langsamer (den Test hatte ich neulich auch mal hier gepostet: 5090 vs. DGX Spark vs. M4 Max MBP)
Zuletzt bearbeitet:
(Weitere Testreihen hinzugefügt)
