samuelclemens
Lt. Commander
- Registriert
- Nov. 2017
- Beiträge
- 1.101
Ich hab das mal jetzt mit Ollama umgesetzt. Kann man ja neben der GUI auch sehr bequem über powershell bedienen. Auf der Ollama Website gibt es auch fertige unzensierte Modelle die man bequem per Shell runterladen und installieren kann. Die Seite bietet sogar das fertige commando an per copy & paste.zidius schrieb:@samuelclemens musst du mal bei google suchen. Da gibt es mehrere Möglichkeiten.... hab das aber selber noch nie gemacht, weil nie gebraucht. Eigentlich werden sehr schnell kombinierte Dateien bei huggingface hochgeladen.
Was ist denn z.B. mit denen hier?: https://huggingface.co/Comfy-Org/ltx-2/tree/main/split_files/text_encoders
https://ollama.com/iaprofesseur/SuperGemma4-26b-uncensored-Q4
Die Ergebnisse sind jedoch ernüchternd beim kreativen Schreiben. Die Größe des Modells scheint aber eine große Rolle bei der Qualität zu spielen.
Werd aber dein Link auch mal ausprobieren.