ComfyUI mit AMD (Zluda) // Erfahrungen - Austausch

[wullu]

Hey zusammen,

habt ihr Erfahrungen mit ComfyUI und AMD (Zluda)? Mit der Repo https://github.com/patientx/ComfyUI-Zluda habe ich endlich mal ComfyUI zum laufen gebracht. Bild Generierung dauerte jedoch sehr lange (512x512 = 5min) was quatsch ist. Knackpunkt war, dass ich bestimmt Zluda Dateien im venv Ordner austauschen musste.


Wan2_1 habe ich probiert, bekomme jedoch unterschiedliche Fehler.


Wie sieht es bei euch aus? Habt ihr Tipps und Tricks?

 

[DaysShadow]

Erster Eintrag bei Troubleshooting trifft bei dir nicht zu?

 

[mytosh]

Es gibt ein ziemlich gutes Komplettpaket für die ganze Geschichte, ich muss mal schauen, ob ich die für dich finde. Ich sage dir dann Bescheid.

 

[wullu]

@DaysShadow - Hauptsächlich "GET was unable to find an engine to execute this computation"
@mytosh - das wäre natürlich ganz cool - danke!

 

[DaysShadow]

Hä? Hast du den aktuellsten AMD Treiber installiert oder explizit nicht? Der macht halt laut dem Eintrag Probleme mit Zluda und kein Zluda = kein GPU = CPU Berechnung = langsam.

 

[mytosh]

Anleitung:
https://forums.guru3d.com/threads/a...uda-test-cuda-performance-on-amd-gpus.451734/

Paket:
https://drive.google.com/file/d/1axLbWzaC3wiuFa1kDGahPuvTIzqSmWjT/view?usp=sharing

Mittlerweile gibt es sicherlich Updates für rocm 6.x und zluda.

https://www.amd.com/en/developer/resources/rocm-hub/hip-sdk.html
AMD-Software-PRO-Edition-24.Q4-Win10-Win11-For-HIP.exe

 

[lazsniper]

chatgpt liefert dir da super detaillierte und gute anleitungen wenn du spezifisch danach fragst. ich brauch das auch häufig bei meinen comfyui workflows.

"If you encounter issues with the first generation taking a long time (around 10-15 minutes) without any progress indicators, it is recommended to wait patiently as ZLUDA creates a database for use with generation on your GPU.56 Clearing the pip cache or deleting the venv folder and reinstalling can also help resolve any issues."

insgesamt ist es halt einfach auf cuda ausgelegt, weil es damit am besten und schnellsten funktioniert.

es gibt gute skool gruppen für den bereich, da sind auch wirkliche vollexperten unterwegs. und der umgang auf skool ist generell sehr hilfsbereit, wertschätzend und effektiv. eine der wenigen communities die noch einen guten vibe haben

 

[wullu]

@DaysShadow - Habe eigentlich alles installiert HIP, ROCm und den 25.3.1 Treiber.
@mytosh - danke! ich schaue heute im laufe des tages mal rein
@lazsniper - bin eigentlich ganz neu in der Welt von ComfyUI. Der Tipp mit ChatGPT/Gemini sollte ich zu Herzen nehmen

 

[Tom Keller]

Knackpunkt war, dass ich bestimmt Zluda Dateien im venv Ordner austauschen musste.

Sollte eigentlich nicht nötig sein. Da sollte normalerweise eine patchzluda2.bat enthalten sein, die man einfach nur starten und dann den Pfad zur kompilierten Windows-Version von lshqqytiger angeben muss:

Die vorhanden ZLUDA-Version wird dann ersetzt... und auch die CUDA-Dateien von PyTorch im Venv-Ordner werden damit automatisch mit der ZLUDA-Variante überschrieben.

 

[wullu]

Da hast du vollkommen Recht jedoch hat das nicht immer geklappt..

 

[Tom Keller]

Hatte ich anfangs auch - aber seit dem letzten Neu-Aufsetzen von ComfyUI läuft das ziemlich reibungslos. Es hängt eventuell auch stark davon ab, welche Python-Version in die virtuelle Umgebung eingebunden wird. Keine Ahnung, welche genommen wird, wenn keine installiert ist - bei mir wurde die installierte Version 3.10.11 (3.10.11150.1013) genommen. Bei weitem nicht die aktuellste - funktioniert für mich aber am Besten.

Tipps für bessere Geschwindigkeiten beim Generieren kann ich leider auch kaum geben, da ich ZLUDA mit einer höllisch langsamen gfx1035 iGPU (müsste eine 680M sein) eines Mini-PCs nutze. Wobei "langsam" relativ ist: für das, was sie ist, ist die GPU durchaus schnell... aber eben kein Vergleich zu Standalone-GPUs. Obwohl sie von ROCm 5.x/6.x unterstützt wird, dauert damit die Generierung eines 720p Bildes bei moderaten Einstellungen mit ComfyUI und ZLUDA fast 20 Minuten! Das wird vielleicht mit zukünftiger cuBLASLt/cuDNN Beschleunigung in ZLUDA etwas besser (sofern die mit einer 680M überhaupt möglich sein wird) - optimal ist es aber nicht. Das Optimum wird man vermutlich einzig unter Linux mit direktem ROCm-Support in ComfyUI raus holen können.
Das wäre auch meine Empfehlung für dich: versuch dich mal in die Einrichtung unter Linux einzulesen und teste da die Geschwindigkeit!