NVDIA Treiber, AI & Games Fokus, Distro-Wahl

[Zhan]

Hallo zusammen,

ich habe mich länger nicht mehr mit Linux beschäftigt (ausser einem Home-Server auf Uralthardware mit Ubuntu), denke aber darüber nach für meine Games&KI-Kiste zumindest weitestgehend von Windows wegzugehen und auf Linux umzusteigen. Hauptusecase sind AI-Themen und bissel Gaming (nichts aktuelles, kein Multiplayer) - eigentlich sollte da Linux (Bazzite, CachyOS, oder einfach nur Ubuntu - hab mehrere freie Laufwerke, kann daher auch zweigleisig fahren) ja theoretisch passen. Ich bin jetzt aber mehrfach drüber gestolpert, dass NVIDIA und Treiber so ein Thema sind. Ist das tatsächlich ein Problem, oder eher so ein nicht tot zu kriegendes Relikt aus der Vergangenheit? Achja, geht hier nur um eine 5090 mit nem 9950x3d, keine 6000 Pro oder so (für größere Modelle und die gesamte Alltagsnutzung hab ich noch nen - langsameren - Mac mit viel unified RAM). Gibt es größere Unterschiede je nach Distro, was die Unterstützung für NVIDIA betrifft? Übersehe ich irgendwas?

Wie sind eure tatsächlichen Erfahrungen hier? Für AI Usecases ist ja Linux eigentlich sogar eher die erste Wahl als Windows, insofern kann das ja eigentlich kein so großes Thema mehr sein. Auf der anderen Seite bewirbt Nvidia ja ihre DGX Lösungen ja auch mit speziellen Treibern bei deren eigenem Linux-Derivat. Hat hier wer vergleichbare Workloads auf seinem Linuxsystem (AI/ML + Games)?

Ich freue mich über Unterstützung bei der Entscheidungsfindung.

Nachtrag: Wenn ich das richtig verstehe, kann man einen Teil der DGX Funktionen zumindest auf einem Ubuntu LTS recht brauchbar nachrüsten - hat das hier mal wer gemacht?

 

[wagga]

Die AMD Treiber unterstützung ist halt besser als bei NVIDIA.
Wegen Proton und Steam wird mir z.B. Linux Mint empfohlen.
Liebe Grüße.

 

[rollmoped]

Achja, geht hier nur um eine 5090 mit nem 9950x3d

Mit der 5090 wirst du in Spielen trotzdem hohe FPS haben und auch vor einer 9070 XT liegen. Aber im Vergleich zu Windows musst du leider auf Linux mit der RTX 5000 Serie mit bis zu ca. 30% FPS-Einbußen rechnen.
Zum Beispiel landet man mit einer 5080 im Rasterizing auf Linux aktuell hinter einer 9070 XT. Wenn es neue Benchmarks mit Mesa 26 geben wird, wird man sehen, wie es sich mit Raytracing verhält. Kann gut sein, dass man da mit einer Radeon Karte dann auch im Vergleich zu Nvidia-Pendants besser fährt.
Das ist das Hauptproblem mit Nvidia gerade.

Gibt es größere Unterschiede je nach Distro, was die Unterstützung für NVIDIA betrifft? Übersehe ich irgendwas?

Es gibt kleine Unterschiede. Manche Distributionen vereinfachen die Installation des Nvidia-Treibers direkt nach der Installation. Vermutlich wäre es sinnvoll, eine von Nvidia offiziell unterstützte Distribution zu wählen, wenn man die Karte professionell nutzt.
Update: Hier eine Liste von offiziell unterstützten Distributionen: https://docs.nvidia.com/datacenter/tesla/driver-installation-guide/introduction.html
Oder du löst es so, dass du einfach zwei SSDs benutzt, eine für professionelle Dinge und eine für Spiele. So mache ich das auch. Spiele laufen bei mir mit CachyOS, das professionelle auf einer Ubuntu LTS-basierten Distribution.

Hat hier wer vergleichbare Workloads auf seinem Linuxsystem (AI/ML + Games)?

Ich habe einige AI Dinge mit meiner RX 9070 angetestet, aber nicht viel damit gemacht. Mit deiner Nvidia-Karte hast du den Vorteil, dass die meisten Projekte schon darauf angelegt sind.
Zwar läuft eigentlich alles, was für Endnutzer gemacht wurde, auch auf AMD GPUs, aber wenn man ein X-beliebiges AI-Repository von Github clont und das ausführen will, geht das ab und zu mit AMD noch nicht Out of the Box reibungslos. Auch steht in den Beschreibungen oft konkret, dass das Modell auf z.B. mehreren H200 gelaufen ist.
Pytorch selbst etc. läuft auch mit AMD Grafikkarten gut. Für KI ist Nvidia aktuell keine schlechte Wahl.
Tiefergehende Erfahrung mit KI habe ich noch nicht gemacht.

 

[netzgestaltung]

das professionelle auf einer Ubuntu LTS-basierten Distribution

da gibts ohne basteln und PPA wohl kaum aktuelle Software, in dem von dir geposteten link ist auch fedora drin das wär ein guter host für podman images, die laufen dann ja meistens mit alpine oder amazon linux...

 

[gimmix]

Hat hier wer vergleichbare Workloads auf seinem Linuxsystem (AI/ML + Games)?

Ja. Ubuntu 24.04.4: Gaming mit Steam, Lutris und Heroic. AI-Spielereien mit Ollama und Stable Diffusion.

Alles mit einer RTX 3060 Ti. Treiber ist der neueste, den installiert Ubuntu serienmäßig, wenn bei der Installation "proprietäre Codecs und Hardwaretreiber" angewählt wird.

 

[Grimba]

Ich bin jetzt aber mehrfach drüber gestolpert, dass NVIDIA und Treiber so ein Thema sind. Ist das tatsächlich ein Problem, oder eher so ein nicht tot zu kriegendes Relikt aus der Vergangenheit?

Es ist ein bißchen was von beidem. Er könnte nach wie vor besser sein, an ein paar Ecken und Enden lässt der Treiber noch zu wünschen übrig und auch Performance liegen. Aber die Situation ist dennoch auch ein ganzes Stück von der Unbenutzbarkeit entfernt, die ihm gerne angedichtet wird. Man darf halt nicht vergessen, dass viele gerne an allen sich bietenden Fronten einen Lagerkampf zwischen AMD und Nvidia ausfechten, so bauscht sich das alles auch gerne etwas auf im Netz.
Was das OOTB-Erlebnis angeht, ist eine AMD Karte auch in jeder Hinsicht überlegen, da braucht man gar nicht diskutieren, und Nvidia hat beim Treiber auch lange einfach gepennt. Inzwischen hat sich dennoch was getan und im Alltag kommt man damit, zumindest meiner Meinung nach, gut zurecht, auch wenn alle natürlich letztendlich auf NOVA+NVK hoffen in Zukunft.

Achja, geht hier nur um eine 5090

Ich glaube mit Blackwell gab es am Anfang ein paar Probleme, vermutlich hat sich das gegeben. Ich kann dazu leider nichts aus eigener Erfahrung berichten, weil ich mit der Vorgängergeneration arbeite. Vieles hing aber vermutlich auch damit zusammen, dass Nouveau, also der Treiber, der genutzt wird bevor der Nvidia Treiber installiert ist, Blackwell erst etwas später unterstützt hat, und so häufig der Bildschirm erstmal schwarz blieb. Ist mit jeder neuen Generation leider am Anfang ein wiederkehrendes Problem, was sich aber mit der Zeit meist löst.

Gibt es größere Unterschiede je nach Distro, was die Unterstützung für NVIDIA betrifft? Übersehe ich irgendwas?

Die Frage kann man lustigerweise mit Ja und Nein beantworten Nein, weil letztendlich kannst du vermutlich in jeder Distro den Treiber installieren. Ja, weil sie durchaus ganz unterschiedlich mit der Thematik umgehen. Einige Distros laden den Treiber direkt vorab schon im Livesystem vor der Installation und laden dann bei der Installation automatisch den allerneusten Treiber runter, so dass man nie über Nouveau gehen muss, andere hingegen bieten den Treiber zur Nachinstallation an, und das durchaus auf Unterschiedlichen Wegen. OpenSUSE hat z.B. ein eigenes Repository dafür, bei Ubuntu gibt's den Treibermanager, aber ggf. noch aktuellere Treiber per graphic-drivers PPA. Bei PopOS! ist der Treiber von Anfang an fester Bestandteil und wird stets aktuell gehalten, Arch hat den aktuellsten Treiber im Repository, aber überlässt die Installation stets dir, usw. Die Liste lässt sich beliebig fortsetzen.

Es ist bei allen Distributionen definitiv ein Thema, zu dem du eine Anleitung finden wirst, egal welcher Art. Pauschal könnte man höchstens sagen, dass bei Distros, die als "Gaming" Distros angesehen werden, dieses Thema vermutlich am bequemsten für dich gelöst ist.

Für AI Usecases

Ich habe bisher nur ein wenig mit LM Studio herumgespielt, aber hier lief alles völlig problemlos und sehr performant. Bin aber kein Enthusiast in dem Thema. Generell funktioniert hier Nvidia wirklich gut.