Moderne Graka bei altem Board weil Stable Diffusion

[Samun]

AMD Ryzen 5 2600x
32 GB Ram DDR4
X470 Gaming Plus (PCI-Express 3.0 8.0 GT/s)

Hi Leute,

ich gebe mal nicht mehr Specs an, weil ich gar nicht so viel mit dem Ding mache. Ich brauche also kein MinMax fürs Gaming, aber ich habe Spass an Image Generation. Im Moment habe ich eine 1070ti und die ist einfach zu alt. Der Rest des PCs bleibt, aber ich muss wissen ob es überhaupt Sinn macht moderne GPUs zu nutzen, weil PCI 3.0 oder etwas anderes ein Bottleneck ist? Ich könnte mir schon vorstellen so 200-300 auszugeben, das reicht dann ein paar Jahre bis zum nächsten Rechner.

Worauf muss ich achten? Oder ist das unbedenklich. Danke im Voraus.

 

[JumpingCat]

nVidia + viel RAM auf der GPU brauchst du für deine Anforderungen. Das bekommst du aber nicht für 200€.

Die LLM können auf die CPU ausweichen wenn die GPU zu wenig RAM hat. Das wird dann lahm. Das Botteleck ist dann der langsame PCIe sowie die Geschwindkeit vom RAM selbst.

 

[Sunweb]

Hier gehts los:
https://www.computerbase.de/preisvergleich/?cat=gra16_512&xf=132_16384~9816_03+05+18+-+RTX+5060+Ti

 

[JumpingCat]

Ich könnte mir schon vorstellen so 200-300 auszugeben,

Hier gehts los:

Selbst wenn man das Budget auf 400€ verdoppelt bekomme ich da 0 Treffer, @Sunweb ?

 

[prian]

Ich sehe hier weder das bestehende System noch das vorgesehene Budget als ausreichend für das Vorhaben.

 

[madmax2010]

weil PCI 3.0 oder etwas anderes ein Bottleneck ist

nicht mal PCIe 1.0 x1 ist da das bottleneck

SD geht sehr gut auf der AMD6700XT
https://www.ebay.de/itm/127142225740


Aber nicht unter windows.

 

[kachiri]

Ist wirklich die Leistung das Problem oder doch eher der VRAM oder beides? Stable Diffusion mag ja eher VRAM. Und unter 16 GB würde ich da neu gar nicht erst anfangen. Aber dann bist halt bei NV 450 Euro los.

E: Die 3060 12 GB wäre ggfs. noch eine Option

 

[NameHere]

SD geht sehr gut auf der AMD6700XT
https://www.ebay.de/itm/127142225740


Aber nicht unter windows.

Für das Geld gibt es auch eine nvidia 3060 mit 12GB. Ich nutze selbst de 3060 für SD

https://geizhals.de/msi-geforce-rtx-3060-ventus-2x-12g-oc-a2473953.html?hloc=at&hloc=de

 

[madmax2010]

Stable Diffusion mag ja eher VRAM. Und unter 16 GB würde ich da neu gar nicht erst anfangen.

ne..
Nur SD3-Large und SDXL braucht mehr als 12GB


SD3-Small ~6-8 GB
SD3-Medium ~8-10 GB
SD1 und SD2, SD3(.5) Medium und Smallkommen super mit weniger als 10GB raus.

LLMs sing viel größer als Diffusion basierte Bildgeneratoren

@NameHere ahh ja - bisschen vergessen, dass es die noch gab

 

[NameHere]

SDXL braucht mehr als 12GB

SDXL braucht bei mir 7-8GB

 

[JumpingCat]

SD geht sehr gut auf der AMD6700XT

Das hast du selbst ausprobiert das es auf AMD gut läuft? Ich habe meine 6800XT gegen eine 4080Super getauscht. Auf der AMD Karte gab es diverse Probleme mit allen Ai Modellen. Auf der nVidia läuft jetzt alles sofort. Sowohl Fedora Linux als auch Windows.

 

[Hans Meier620]

2080ti für 230 gebraucht?

 

[madmax2010]

@NameHere Nochmal danke
SDXL bei mir auch, die Modelcard bei StabilityAi sagt jedoch 16GB, weshalb ich mit der Aussage da was konservativer war. Wenn jemand jetzt gesagt hätte"stimmt nicht, beweis das" haette ich lieber eine belastbare quelle geliefert. Die hast du gerade geliefert.

Das hast du selbst ausprobiert das es auf AMD gut läuft? I

ja. habe ich unter arch laufen
ich nutze die 6700XT aus prinzip daheim.

 

[SpartanerTom]

@madmax2010 welches framework/GUI läuft denn mittlerweile am Besten? Mein letzter Roundup mit Comfy, Foocus und A1111 und meiner RX6800 ist schon ne Weile her.

 

[Samun]

Erstmal danke für die vielen, schnellen Antworten. Ihr wart so schnell, dass die ersten Posting meinen geänderten (und kürzeren) Text nicht mal gesehen haben

Egal. Ich bin kein professioneller SDler, ich will ein bisschen was fürs RP machen und meine 1070ti schafft 20 Steps bei 512x768 in 40 Sekunden oder so. Das ist was langsam. Auch eine Karte für 200,-- schafft hier in einer Vergleichsliste das 50fache. Tatsächlich wäre mir Power Consumption sogar wichtiger als Bildgeneration. Ich habe kurz mit einer 5060ti geliebäugelt, aber das ist wirklich Quatsch. Ich korrigiere mal meine Preisvorstellungen nach unten.

Aber am Rande. Ich kann ebenfalls mit meiner Uraltkarte SDXL benutzen (die hat 8GB), es braucht nur viele Minuten pro Bild. Das macht keinen Sinn.

Hier ist die Vergleichsliste, die ich benutze.

 

[NameHere]

2080ti für 230 gebraucht?

@Samun leistungsfähig aber nicht ganz sparsam

 

[madmax2010]

@SpartanerTom bin tbh auch noch auf A1111 / comfy und nutze bisher kein SD3. Die zeit stecke ich gerade in meine kleinen LLM Assistenten

 

[Backfisch]

SDXL bei mir auch, die Modelcard bei StabilityAi sagt jedoch 16GB

Quantisierungslevel?

 

[madmax2010]

Ziemlich sicher @Backfisch. Stability AI releastja in fp16

 

[NameHere]

ich spare ~1Gb VRAM da keine Monitore angeschlossen sind. Bildausgabe macht die iGPU.