Linux: AMD 9070XT vs Nvidia 5070ti

[Yogi666]

Hab vor einigen Tagen versucht mit einer alten Nvidia 3080 Linux zu installieren.
Nichtmal der installer lief weil der GPU Treiber nich korrekt geladen wurde.

Über die Jahre habe ich einige PCs betreut die Linux hatten. Teils Nvidia teils AMD GPUs.
Mit Nvidia hast du einfach eine Menge extra Schmerz den du mit AMD GPUs nicht hast.

Oh hast ein paar Pakete geupdated. Tja Nvidia driver stack ist abgeraucht, jetzt hast du nur noch Terminal. Das ist mir mehrfach mit Nvidia passiert und nicht einmal mit AMD. Das ist so sinnloser Extra Schmerz den man wirklich nicht möchte.

Bin jetzt auf eine 9070 xt gewechselt und ging alles out of the box ohne jede Issues. Nutze gerade die Gelgenheit W11 durch Linux zu ersetzen.

Mit einer Nvidia GPU würd ich gar kein Linux verwenden. Entweder AMD GPU oder bei Win bleiben. Schlechte Performance (-25%) + mieser Software Support ist für mich nicht akzeptabel.

Ja man kann Nvidia GPUs mit Linux Desktops verwenden. Ich würd mir das aber nicht freiwillig antun wenn ich die Wahl habe.

 

[ghecko]

so schlimm kann die treiber situation ja dann nicht sein

So -20% in Gaming unter Vulkan bei der aktuellen Generation. Und die meisten sind halt noch mit xorg unterwegs, kp wie lange das noch gut geht.
Und zu der Verbreitung: Nvidia ist halt das Quasimonopol. Bedeutet nicht das sie unter Linux die erste Wahl sind.

als gesamtkonzept (aktualität, gaming performance, llm performance) find ich die 9070xt attraktiver als die 7900xt und die kosten beide ca das selbe.

Na ja, die Frage ist an sich ganz einfach:
Passen die Modelle die du nutzen möchtest in 16GB VRAM?
-> 9070XT
Passen sie da nicht rein?
-> 7900XT(X)
Wenn das Modell nicht in den VRAM passt kann die Karte noch so schnell sein, dann bricht die Performance zusammen. Deshalb freuen sich die ganzen LLM Leute auch so über Strix Halo. Nicht weil der in Benchmarks alle abzieht sondern weil es die Plattform überhaupt mal ermöglicht, Modelle mit 64GB plus brauchbar performant auf einen bezahlbaren System laufen zu lassen.
Und das ist halt das Ding, klar gewinnt die 5090 alle Benchmarks bei Modellen die noch in ihren VRAM passen und Nvidia-Karten sind mit CUDA meist ein ticken schneller als vergleichbare AMD-Karten. Aber solange das LLM auf deiner Hardware schneller Buchstaben raus haut als du sie lesen kannst, ist das dann überhaupt noch wichtig?

 

[tomgit]

so schlimm kann die treiber situation ja dann nicht sein.

Die Frage ist halt, wie viele von denen
a.) von einem bestehenden Computer umsteigen
b.) explizit einen Linux-Computer bauen.

Nvidia-GPUs sind nun mal deutlich mehr verbreitet, entsprechend werden auch mehr Linux-User Nvidia-GPUs nutzen.

Und wenn man nicht viel mit Linux macht, kann man das System auch ruhen lassen, was auch mit sich bringt, dass der Treiber nicht geupdatet werden muss. Problem bei Nvidia-Treibern (war zumindest lange so, vielleicht hat es sich gebessert) ist nun mal, dass bei Kernel-Wechsel der Treiber frisch installiert/kompiliert werden muss.

Aber eigentlich scheinst du dich auch drauf eingeschossen zu haben, dir eine Nvidia-Karte zu kaufen, sonst würdest dich nicht so sehr drauf einschießen, die schlechte Nvidia-Situation zu verteidigen.

Wie gesagt, bedenke, dass 32bit Libraries unter Blackwell rausfallen. Wenn du etwas älteres testen magst, oder etwas, was nicht auf 64bit umgesetzt wurde, hast halt Pech.

 

[schumischumi]

Aber eigentlich scheinst du dich auch drauf eingeschossen zu haben, dir eine Nvidia-Karte zu kaufen, sonst würdest dich nicht so sehr drauf einschießen, die schlechte Nvidia-Situation zu verteidigen.

Tendiere atm zur 9070 XT^^
die "Nvidia Situation" will ich gar nicht verteidigen, sondern ich will sie verstehen.
Meiner persönliche Erfahrung (vor der AMD karte war ne nvidia 970 drin) spiegelt halt das gejammer über die Treiber und die "schreckliche Nvidia Situation" nicht wieder.
die Verbreitung von Nvidia Karten wiederspricht dem halt auch. bei protondb liest man halt auch nicht neben den nvidia karten "geht ned" sonder sogar öfter "passt" als neben den amd karten.

Deswegen bring ich die Situation wie sie dargestellt wird und wie sie mir die steam/protondb daten und meine eigene Erfahrung zeigen nicht ganz zusammen.

Was die gaming performance angeht sind wir uns glaub ich einig. da hat ja computerbase n schönes benchmark mit den beiden karten.

bei der ki/ai/lllm performance seh ich halt keine daten ob sich 100-150 aufpreis nicht doch lohnen.
die frage 9070XT vs 7900XT(X) stellt sich für mich persönlich nicht. entweder ältere HW version mit bissl mehr ram zum selben preis: 7900XT. oder entweder ältere HW version mit gut mehr ram für €200+ mehr: 7900XTX.

hier fehlt mir halt der vergleich von 9070 xt mit 5070 ti. die ram größe ist die selbe, aber nvidia hat halt schnellere ram anbindung und cuda.
ohne benchmark ist das aber alles leider bauchgefühl.

 

[tomgit]

Meiner persönliche Erfahrung (vor der AMD karte war ne nvidia 970 drin) spiegelt halt das gejammer über die Treiber und die "schreckliche Nvidia Situation" nicht wieder.

Und was war deine Nutzung des Linux-Systems davor?

die Verbreitung von Nvidia Karten wiederspricht dem halt auch. bei protondb liest man halt auch nicht neben den nvidia karten "geht ned" sonder sogar öfter "passt" als neben den amd karten.

Wie gesagt - Nvidia ist verbreiteter, aber wie viele bauen sich explizit einen Nvidia-Linux-PC mit Augenmerk aufs Gaming? Gerade wenn man bei Reddit und in Foren rumschaut, ist der Konsens eher, dass vollständige AMD-Systeme fürs Linux-Gaming zusammengestellt werden und Nvidia-User eher im Life Cycle auf Linux wechseln.

ohne benchmark ist das aber alles leider bauchgefühl.

Weil es auch extrem Nischig ist und nicht jeden Usecase gut abdeckt. Welche Modelle sollen angeschaut werden? Wie groß sind die Modelle? Was machen die Modelle? Selbst in den geteilten Benchmarks sieht man bei Modelle, welche in den Speicher passen, je nach Anwendung mal Nvidia, mal AMD vorn. Es ist halt einfach nicht so, dass man finit sagen kann "Nvidia" oder "AMD", wenn es um Sprachmodelle geht.

Umgekehrt würde ich hingegen sagen, dass gerade mit der Situation um Blackwell Nvidia so viele Probleme darlegt, wo ich aktuell unabhängig des Einsatzes kein Nvidia-System mehr kaufen mag. Erneut, 32Bit CUDA Libraries fielen komplett raus, was zu massiven Kompatibilitätsproblemen teilweise führt. Eine native Installation von Cuda 12.8 (12.9?) ist teilweise gar nicht möglich, sodass man mit Glück auf Docker zurückgreifen kann und selbst da (Stand Juli-August) meine Kollegen (Hochschule, Forschung in verschiedenen KI-Aspekten) Probleme hatten, Cuda unter Blackwell zum Laufen zu bekommen. Und frühere Versionen laufen mangels Support nicht.
Auf der anderen Seite wurde ROCm 7.0 gerade erst veröffentlicht und zeigt Potenziale für AMD.
Dann gibt es generelle Probleme mit Nvidias Treibern (wobei hier "fairerweise" primär die schlechten Windows-Treiber bemängelt werden), Probleme mit dem Stromanschluss, etc.

Keine Ahnung, in meinen Augen spricht für Nvidia aktuell nur, dass es eben der Gold Standard ist, weil sie auch extrem viel Geld für Forschung ausgeben und deswegen das allermeiste drauf läuft. Aber man hört eben auch aus der Forschungsumgebung, dass man sich gerne nach Alternativen auf anderen Plattformen umschaut. Bester Ease of Use ist neben Nvidia Intel, aber AMD ist am Aufholen.

 

[SavageSkull]

Hab vor einigen Tagen versucht mit einer alten Nvidia 3080 Linux zu installieren.
Nichtmal der installer lief weil der GPU Treiber nich korrekt geladen wurde.

Welche Distribution?

 

[Yogi666]

@SavageSkull
Mint, Xubuntu, Ubuntu und 2 weitere die mir gerade nicht einfallen.
Immer das selbe Szenario. Installer läd zwar aber kann keine Icons etc sehen.

Mit compat mode, also Software rendering gings.
Post Install das selber Fehlerbild.

Schätze mal irgendwie wurde der Nvidia Treiber nicht korrekt geladen.

Hatte dann wenig Lust das mit Nvidia zu machen, wenn das schon so anfängt. Die regelmäßige Extra Frickelei war nicht attraktiv.

 

[SavageSkull]

@SavageSkull
Mint, Xubuntu, Ubuntu und 2 weitere die mir gerade nicht einfallen.

Kann ich weder bei Mint noch bei Ubuntu nachvollziehen. Auch Manjaro, Pop!_OS und zuletzt CachyOS haben bei mir mit der damaligen 3090 (jetzt 5070Ti) überhaupt keine Probleme gemacht.

Ich habe aktuell gar keine Frickelei. Das läuft genauso wie beim Steam Deck und genauso wie unter Windows völlig problemlos.

 

[schumischumi]

Und was war deine Nutzung des Linux-Systems davor?
...
Wie gesagt - Nvidia ist verbreiteter, aber wie viele bauen sich explizit einen Nvidia-Linux-PC mit Augenmerk aufs Gaming?

Mein system davor ist mit einer AMD karte auf windows gestartet, dann kam eine nvidia 970 rein und ab da immer mehr linux (erst dual boot dann ganz). Probleme waren HW beschleunigung auf ungoogled chromium/firefox auf arch. da musst ich oft selber bauen was nervig ist. Auf fedora war das im FF built-in daher dann mal der wechsel.
Verstehe allerdings nicht warum es wichtig sein soll mit welchem OS ein system mal geplant wurde das dann später auf linux gewechselt wurde.
Mir gehts ja da drum ob heute (nicht vor x jahren wo das mal geplant wurde) gut mit linux und nvidia funktioniert. und für 75% auf steam scheints gut genug zu funktionieren, dass sie die karte nicht sofort ausm fenster schmeissen.
Andere werte sind halt meist anekdotische wahrheiten oder bauchgefühl. Genau wie meine HW beschleunigungsprobleme oben.
die stimmen schon aber sind halt für die masse irrelevant.
ob irgendwer mal von nvidia auf amd wechselt weiss kein mensch und selbst wenn können die gründe (z.B. preis) ganz andere sein als technische überlegenheit oder treibersupport.

Es ist halt einfach nicht so, dass man finit sagen kann "Nvidia" oder "AMD", wenn es um Sprachmodelle geht.

vollkommen richtig, daher such ich ja explizit nach benchmarks dieser beiden karten um zu gucken was für meinen anwendungsfall mehr sinn macht bzw. ob meine vorstellung auf den benchmark usecase passst. Da war das video was mir empfohlen und ich 2-3 posts davor dran gehangen hab sehr gut. im selben kanal gabs auch einen vergleich von 5090 mit 7900 xtx. ist halt uninteressant für mich.

Mir ist wirklich vollkommen egal ob AMD oder Nvidia allg. "besser" ist, linux besser support, das bessere image hat oder schönere marketing versprechen liefert.
Sind multimilliarden schwere firmen, die brauchen beide meinen jubelgesang ned.

ob ROCm X das alles irgendwann mal besser macht oder nicht ist für mich irrelevant da sowas von AMD immer erstmal marketing aussagen sind die ohne benchmarks nix wert sind.

Keine Ahnung, in meinen Augen spricht für Nvidia aktuell nur, dass es eben der Gold Standard ist, weil sie auch extrem viel Geld für Forschung ausgeben und deswegen das allermeiste drauf läuft. Aber man hört eben auch aus der Forschungsumgebung, dass man sich gerne nach Alternativen auf anderen Plattformen umschaut. Bester Ease of Use ist neben Nvidia Intel, aber AMD ist am Aufholen.

und ganz richtig für Nvidia bei ki/ai/llm spricht, dass es der standard ist der von den meistens supportet wird. auch auf linux. seis openhands, ollama, lmstudio oder stable diffusion zeug wie comfyUI oder invokeAI.
Ob da ein docker dazwischen hängt (default bei openhands auf linux ist zb ein docker für nvidia gpus) ist mir doch egal.ich will dass es funktioniert und ein docker mehr oder weniger tut auch nimmer weh.

Die Forschung in Unternehmen setzt meiner eigenen Erfahrung eher auf Nvidia, da die karten von den zuliefereren in den servern eher unterstütz werden. Da gehts halt auch drum ob die firma über die man 1000 server gekauft hat und wartungsverträge hat AMD überhaupt auf der Teileliste für dein Servermodel hat. egal ob amd technisch geht oder sogar besser ist fürn RZ betrieb. Da hat sich halt nvidia historisch gut positioniert.

Unterm strich hab ich mir jetzt nen alarm bei mydealz für ne 9070 xt gesetzt.
Grund: billiger und wird für ai/llm schon reichen.
wann gekauft wird hängt vom preis ab und ob ich noch quellen für 5070 ti und ai/llm finde.