GPU für Stable Diffusion - 16GB min?

[Pattesson]

[Bitte fülle den folgenden Fragebogen unbedingt vollständig aus, damit andere Nutzer dir effizient helfen können. Danke! ]


1. Wie viel Geld bist du bereit auszugeben?
Maximal 1000€
2. Möchtest du mit der Grafikkarte spielen?

• nicht wirklich

3. Möchtest du die Grafikkarte für spezielle Programme & Anwendungen (z.b. CAD) nutzen? Als Hobby oder bist du Profi? Welche Software wirst du nutzen?
Premiere Pro
After Effects
Stable Diffusion

4. . Wieviele und welche Monitore möchtest du nutzen? Wird G-Sync/FreeSync unterstützt? (Bitte mit Link zum Hersteller oder Preisvergleich!)
...

5. Nenne uns bitte deine aktuelle/bisherige Hardware:

• Prozessor (CPU): nächsten Monat i7-12700F
• Aktuelle/Bisherige Grafikkarte (GPU): 2060
• Netzteil(Genaue Bezeichnung): demnächst MSI MPG A750GF
• Gehäuse: Corsair 4000D

6. Hast du besondere Wünsche bezüglich der Grafikkarte? (Lautstärke, Anschlüsse, Farbe, Hersteller, Beleuchtung etc.)
Nicht wirklich

7. Wann möchtest du die Karte kaufen? Möglichst sofort oder kannst du noch ein paar Wochen/Monate warten?
In ein paar Wochen

Hallo zusammen,

es gibt hier bereits einen Thread mit der gleichen Frage, diesen habe ich auch gelesen. Dort wird u.a. auch geraten nicht unter 12gb zu gehen. Jemand anders riet eher zu 16gb.

Ist es jetzt so, dass 16gb nochmal signifikante Unterschiede in der Performance speziell bei Stable Diffusion mit sich bringt?

Eine 4070 mit 16gb gibt es soweit noch nicht wenn ich richtig informiert bin. Alles im Bereich 3090, 4080 liegt weit über meinem Budget. In dem andere Thread wurde auch die 4060 Ti genannt, welche 16gb hat. Aber es ist halt auch "Nur" eine 4060 Ti?!

Wäre diese zb einer 4070 Ti mit 12gb überlegen? Wie oben schon erwähnt brauche ich die nicht zum zocken, eher zum arbeiten und rendern.

Bin etwas überfragt welche GPU die richtige wäre.

 

[Knobi Wahn]

Diesen Monat kommt die 4070Ti mit 16GB.

 

[cyberpirate]

Es kommt ja jetzt die Super mit 16GB

 

[DAU123]

4070 Ti Super, demnächst verfügbar, also in ein paar Wochen ^^

 

[Pattesson]

Stimmt. Aber die wäre dann mal eben doppelt so teuer wie die 4060 Ti. Lohnt sich der Aufpreis deutlich?

 

[Pyrukar]

also ich habe mit meiner 3060 12GB und diversen Stable Diffussion Programmen experimentiert ... es kommt halt voll darauf an, was das Ziel ist. die VRAM Größe entscheidet hauptsächlich wie groß deine Bilder maximal werden können, die du generierst. Ich bei mir ist mit 12GB irgendwo im bereich 2000x2000 Pixel langsam schluss, wobei einige Programme wiederum auch eine Möglichkeit haben einen VRAM Sparmodus einzuschalten in dem sie dann aber eben langsamer generieren.

Also es gibt sicherlich anwendungsfälle in denen 12 GB nicht ausreichen, aber für meine Experimente langen die 12 GB locker.

 

[Pattesson]

@Pyrukar hast du auch die Video Funktion von Stable Diffusion testen können? Könnte mir vorstellen, dass dies nochmal mehr Leistung erfordert als die Bild Erstellung?

 

[Pyrukar]

Video Funktion von Stable Diffusion testen können?

Nein, davon habe ich ehrlich gesagt keine Ahnung.

Aber eine Info ggf noch. Wenn ich längere Render mache setzte ich eigentlich immer das Power Target meiner GPU runter und brauche dadurch weniger strom bei (für SD) gleicher Renderpower. Ich bin mir nicht komplett sicher, würde aber aus meiner Erfahrung sagen, dass eine Stärkere GPU nicht zwingend deutlich schneller ist. Vermutlich sind hauptsächlich die Cuda Cores (oder wie auch immer sie inzwischen ihre Rechenkerne nennen) entscheidend, nicht der GPU Takt.

Am schluss bleibt vermutlich die Frage: Hobby oder Beruflich ... für Beruflich würde ich auf jeden fall eine Dickere GPU nehmen, für Privat reicht vermutlich eine 4060 16 GB

 

[Gigaherz]

Was ist denn mit einer gebrauchten 3090? Noch mehr Vram und mehr Rohleistung als die hier genannten Karten. Bekommt man unter 1k

 

[Pattesson]

Damit tue ich mich ehrlich gesagt schwer mit weil ich nicht einschätzen kann wie viel die schon gearbeitet hat und wie der Zustand ist. Tendiere lieber zu einem Neukauf.

 

[Gigaherz]

Hab meine vor nem Jahr auch gebraucht geholt. Kannst dir ja ein paar Benchmarkwerte als Funktionsnachweis geben lassen und auf Kleinanzeigen mit Käuferschutz machen. Hatte davor ne gebrauchte 2080ti aus ner Mining Farm, die tuckert immer noch fröhlich im Rechner meiner Freundin.

 

[derlorenz]

https://www.computerbase.de/2024-01...-4070-ti-super-und-4080-super-sind-offiziell/

Die 4070TI Super für UVP 889 Euro liegt doch in deinem Budget.

 

[Pattesson]

@derlorenz ja das stimmt. Allerdings wenn ich für die Hälfte von dem Preis zb eine 4060 ti bekomme welche auch genug Leistung hätte, dann würde ich mir natürlich gerne die 500€ sparen. Oder würde die 4070. Super die 4060 Ti in den Schatten stellen?

 

[Rickmer]

Stimmt. Aber die wäre dann mal eben doppelt so teuer wie die 4060 Ti. Lohnt sich der Aufpreis deutlich?

Die 4070 Ti Super wird ca. doppelt so schnell sein wie die 4060 Ti, damit also auch halb so lange* brauchen für ein Bild. Ob es dir den Aufpreis wert ist kannst nur du entscheiden.

*Bei den GPU-intensiven teilen. Ein Controlnet berechnen z.B. ist mWn auf der CPU, das wird mit allen GPUs gleich lang brauchen.

also ich habe mit meiner 3060 12GB und diversen Stable Diffussion Programmen experimentiert ... es kommt halt voll darauf an, was das Ziel ist. die VRAM Größe entscheidet hauptsächlich wie groß deine Bilder maximal werden können, die du generierst. Ich bei mir ist mit 12GB irgendwo im bereich 2000x2000 Pixel langsam schluss, wobei einige Programme wiederum auch eine Möglichkeit haben einen VRAM Sparmodus einzuschalten in dem sie dann aber eben langsamer generieren.

VRAM Bedarf ist ein bisschen ein fluides Thema weil wenn der VRAM auf der Karte nicht ausreicht fängt Stable Diffusion erstmal an, in den RAM auszulagern. Dies hat die Konsequenz, dass die Geschwindigkeit ins Bodenlose abstürzt, aber ansonsten läuft erstmal alles.

Auflösung ist der offensichtlichste Faktor, der VRAM verbraucht, aber auch die Nutzung von Controlnet, LoRas und anderen Addons kann den VRAM-Bedarf merklich erfüllen.

Je mehr VRAM du hast, desto mehr kannst du machen bevor die Geschwindigkeit deutlich einbricht und irgendwann nur noch eine Fehlermeldung kommt weil auch mit Auslagern nicht genügend RAM vorhanden ist.

Wäre diese zb einer 4070 Ti mit 12gb überlegen?

Bei einem Bereich von Auflösungen und anderen Settings die 12GB VRAM Bedarf übersteigen aber 16GB noch nicht übersteigen würde ich davon ausgehen, dass die 4060 Ti 16GB tatsächlich schneller ist.

Bei niedrigen Auflösungen wird natürlich die 4070 Ti schneller sein entsprechend ihrer Rohleistung - kostet aber auch entsprechend mehr.

 

[kachiri]

Ist schon bitter, dass die meisten Entwickler AMD beim Thema Stable Diffussion außen vor lassen. Bei NV ist man dann gefühlt dazu gezwungen zu den ganz teuren Karten zu greifen. Sind wir mal ehrlich: Selbst 16 GB sind hier wirklich Hart an der Grenze.

Insofern ist es eine Frage, wie professionell du das ganze aufziehst. Ob es um "hin und wieder" mal geht. Ob du die Zeit hast... Dann wird eine 4060 Ti 16 GB für deinen Usecase wohl die vernünftigste Variante sein, wenn du nicht unbedingt mal eben das Doppelte ausgeben willst.

 

[blablub1212]

Willst du damit nur spielen oder willst du das ernsthaft nutzen? Ich fand die Bildgenerierung definitiv spannend. Ich hab mir dann auch gedacht, gönne ich halt meinem Server für ein paar hundert Euro ein kleines Upgrade.

Da ich aber nicht warten wollte habe, hab ich mal mein MacBook verwendet. Und siehe da, es geht auch ohne GPU… Auf einem MacBook Air M1 brauchen 500x500 Bilder dann ca. 60 Minuten. Das war für mich zum Spielen OK. Nach 20 Bildern war der Reiz dann aber auch irgendwie weg und ich habe das Thema nicht weiterverfolgt.

Theoretisch gibt es mit MS Copilot nun auch Dall-e 3 umsonst ……..

Daher ggfs. mal kritisch hinterfragen ob man das wirklich langfristig machen möchte. Sonst ggfs. wirklich mal mit einer billigen gebrauchten GPU anfangen und perspektivisch aufrüsten. Insbesondere wenn klarer ist, was du damit machen möchtest.

 

[sedot]

Es gibt auch Webservices für Stable Diffusion – je nach Zweck kann das ja auch eine Option sein. War nicht die Frage, wollte trotzdem darauf hinweisen.

 

[Pattesson]

Für Bilder nutze ich aktuell Midjourney, was ja auch unglaubliche Ergebnisse liefert.
Stable Diffusion wurde für mich wegen der Video Funktion interessant, also dass man Bilder zum Teil animieren kann. Ich vermute, dass dies aber ordentlich Rechenleistung erfordert.

Ich brauche dass dann zur Content Erstellung, wäre jetzt kein reines Hobby was ich betreibe.

 

[sedot]

Bild zu (Kurz-)Video kenne ich leider nur einen (paid) Service, da ist das Feature noch Beta nicht im Pro Abo glaube ich.
Link: https://stablediffusionweb.com/Stable-Video-Diffusion

 

[Rickmer]

Da ich aber nicht warten wollte habe, hab ich mal mein MacBook verwendet. Und siehe da, es geht auch ohne GPU… Auf einem MacBook Air M1 brauchen 500x500 Bilder dann ca. 60 Minuten. Das war für mich zum Spielen OK. Nach 20 Bildern war der Reiz dann aber auch irgendwie weg und ich habe das Thema nicht weiterverfolgt.

Uff. Wenn du 'ne Stunde auf ein Bild warten musst ist natürlich kein Spaß bei. Mit 'ner 4090 braucht auch ein SDXL Bild mit 1024x1024 nur ein paar Sekunden. Da kann man gut iterieren oder auch in ein paar Minuten einen größeren Satz an Prompts testen um z.B. einen neuen Checkpoint zu bewerten.

Stable Diffusion wurde für mich wegen der Video Funktion interessant, also dass man Bilder zum Teil animieren kann. Ich vermute, dass dies aber ordentlich Rechenleistung erfordert.

Die mir aktuell bekannten Implementationen müssen für jedes Frame vom Video ein Bild berechnen. Das dauert.