RTX 5090 + OBS = NVENC-Dauercrash – NVIDIA schweigt seit Monaten

[DR1]

Guten Abend zusammen,

ich muss jetzt mal richtig Frust ablassen. Vielleicht geht es ja noch anderen so.

Mein Setup:

· RTX 5090
· Ryzen 9
· 64GB RAM
· Windows 11
· Streamen mit OBS Studio

Das Problem:
Sobald ich NVENC in OBS aktiviere, bricht der Encoder weg. Fehler: NV_ENC_ERR_INVALID_DEVICE. Dazu in der Ereignisanzeige: nvlddmkm Event ID 153.

· x264 läuft stabil.
· Shadowplay läuft stabil.
· Leichte Spiele (Two Point Hospital) laufen.
· Sobald ich aber ein GPU-lastiges Spiel wie Resident Evil oder F1 starte → Sofort ruckelt der Stream.

Was ich getestet habe (und ihr werdet es nicht glauben):

· DDU-Treiber-Neuinstallationen (ca. 10x)
· Studio-Treiber, Game Ready Treiber, ältere Treiber (577.00, 576.40, 576.80, 596.36)
· Windows Core Isolation (Ein/Aus)
· Game Mode (Ein/Aus)
· HAGS (Ein/Aus)
· OBS-Einstellungen: Enhanced Broadcasting (Ein/Aus), Split Encode (Ein/Aus, wo verfügbar), Presets (P5-P7)
· Energiesparpläne, PCIe Link State Power Management
· Neue DP 2.1 Kabel (5m, weil der PC auf der anderen Seite des Zimmers steht)
· Zwei verschiedene Monitore
· Und vieles mehr...

Das Ergebnis:
NICHTS hat geholfen.

Und jetzt kommt der Hammer:
Ein Nutzer im OBS-Forum hat genau das gleiche Problem mit seiner 5090. Sein Fix: Er hat seine 4090 wieder eingebaut – GLEICHER TREIBER, GLEICHES SYSTEM – und plötzlich lief alles.

Das ist der Beweis: Es liegt nicht an mir, nicht an OBS, nicht an meinem System. Es ist ein TREIBERPROBLEM DER RTX 50-SERIE.

Meine Situation:

· PC gekauft: Dezember 2025
· Heute: Mai 2026
· Monatelanges Troubleshooting
· NVIDIA kontaktiert, Bug-Report mit GPUView-Trace und Systeminfo eingereicht
· Antwort: "Wir werden einen Bug erstellen" – dann Funkstille

Meine Frage an euch:

1. Gibt es hier noch andere RTX 50-Series Besitzer mit demselben Problem?
2. Hat irgendjemand eine Lösung gefunden? (Bitte nicht "DP-Kabel" – hab ich schon)
3. Ist bei euch vielleicht der Treiber 577.00 oder 576.40 stabil?

Mein Fazit:
Eine Grafikkarte für über 2000€, die nicht das tut, was sie soll. NVIDIA schweigt. Monatelang. Das ist nicht mehr lustig. Langsam frage ich mich, ob ich die Karte reklamieren soll.

Danke fürs Zuhören. Ich musste das einfach mal loswerden 🙈😅

 

[madmax2010]

wir haben einige GPUs. Auf keiner RTX 50er karte tritt das problem auf. Es sollten gerade u.a 12 RTX5090 sein, die NVENc auch sehr viel nutzen um trainigsdaten zu verarbeiten. Gestehe aber, dass wir windows meiden


Schick die karte halt ein und gut ist. Defekte kommen vor.
"Schweigt seit monaten" wenn es ein systematisches problem gäbe, würde dazu was gesagt. Wobei die Gaming Umsätze fuer nvidia inzwischen nur noch ein Rundungsfehler sind

 

[prian]

Ohne Dir hier direkt helfen zu können, hast Du Windows auch schon mal neu installiert? Ich konnte nur Treiberinstallation 10x erkennen. Das macht es nicht besser wenn man diesen Treiber 10x installiert und dann erwartet dass es besser wird.
Du hast vermutlich ein fein eingerichtetes System, aber ggf. flattert noch eine SSD rum auf die Du Windows einfach mal neu installieren kannst ohne die jetztige Installation zu verlieren, ggf. auch einfach zuvor Backup machen.

Und natürlich kann die GraKa auch einen Defekt haben.

 

[Fujiyama]

Windows wär mir auch in den Sinn gekommen. Ggf auch ein Biosupdate

 

[Benna]

Ich nutze die selbe Kombo mit Windows 11, OBS und meiner 5090 ohne Probleme. Es ist kein Problem mit dem Treiber.

 

[Azghul0815]

Dito, ne 5090 TUF und OBS läuft problemlos. Win mal neu installiert?

 

[Tenferenzu]

Mit den falschen Einstellungen kannst du durchaus auch den Encoder überladen... Also was genau hast du eingestellt? Ein Screenshot wäre vermutlich hilfreich.

 

[OSx86]

https://www.reddit.com/r/PcBuildHel..._nvlddmkm_event_id_15313_errors_on_new/?tl=de

Reddit sagt:
Deaktiviere alle Nvidia-Audio-Geräte im Geräte-Manager unter Sound-, Video- und Spielcontrollern.

Aber schon über 2 Jahre alt

 

[Alexander2]

NICHTS hat geholfen.

Die Neuinstallation hab ich da jetzt nicht übersehen oder?

Dazu kannste das auch einfach mal per Linux testen, dürfte auch per Live Medium gehen, wenn das Medium den richtigen Nvidia Treiber gleich mit dabei hat.
Jedenfalls da Nvenc testen, wenns da das gleiche "geht nicht" verhalten hat ... wirds schon an der Hardware liegen.

 

[Mojo1987]

Bei dem was du beschrieben hast, ist am wahrscheinlichsten das die Karte bzw. die Encoder im Chip schlichtweg defekt sind.

Ein generell Problem kann man nicht wirklich im Netz finden, bei der Menge an 5000er Karten die dafür verwendet werden wäre das längst aufgefallen wenns was generelles ist.

 

[wrglsgrft]

Neu im Forum, so eine Art von Text...

Ich glaub das Problem liegt ganz so anders.

 

[BrollyLSSJ]

Und jetzt kommt der Hammer:
Ein Nutzer im OBS-Forum hat genau das gleiche Problem mit seiner 5090. Sein Fix: Er hat seine 4090 wieder eingebaut – GLEICHER TREIBER, GLEICHES SYSTEM – und plötzlich lief alles.

Das ist der Beweis: Es liegt nicht an mir, nicht an OBS, nicht an meinem System. Es ist ein TREIBERPROBLEM DER RTX 50-SERIE.

Eventuell ist auch einfach nur deine GPU kaputt und die von dem Typen auf reddit auch. Also das mal als zusätzlichen Input.

 

[mwh.re]

Der Unterschied zwischen der 40er und der 50er ist die PCIeGen. Könnte dann auch am Mainboard/Mainboard-Bios liegen, bzw. an bestimmten Einstellungen. Mal ohne „ReBar” getestet?

 

[Syntax_41]

Probiere mal den Studio Treiber erneut vorher alles deinstallieren

 

[Spawn182]

Shadowplay benutzt ja auch den NVENC Encoder und die Karte hat ja drei davon. Insofern würde ich jetzt einen Hadrwaredefekt ausschließen, sonst müsste das ja auch einen Fahler auswerfen.

Kannst du mit ffmpeg was encoden? Gibt ja genug Apps, die diese Hardware nutzten. Da kannst du auch drei parallele Encodes laufen lassen und die Karte zu 100% auslasten.

Ich vermute da eher ein falsche Konfiguration in OBS oder es ist grundlegend etwas beim Windows schiefgelaufen.

Hast du, wie die Vorredner schreiben eine andere SSD bzw. noch Platz um parallel ein zweites Windows aufzusetzen? Das ginge, wenn du nicht mit Partitionen herumhantieren möchtest auch in eine VHD.