MechanimaL schrieb:
Zum Modell, hast Du mal Qwen 3.6 probiert?
Ne, noch nicht. Da mich Qwen 3.0 ja eher enttäuschte hab ich mich eher auf Gemma fokussiert. Aber ich versuch es mal mit
qwen3.6:35b und
Qwen3.6-35B-A3B-Uncensored.
Edit Nachtrag: Hab sie jetzt beide ausprobiert. Zensiert und Unzensiert.
Erst einmal zufriedenstellend unter vorbehalt. Wenn es darum geht frei zu "Fabulieren" ohne einschränkungen, ganz brauchbar. Geht es aber zb darum bekanntes einzubinden wie es zb in Fanfictions der Fall ist geht es meist in die Hose.
Aber mit Anleitung, also viele eigenen Ideen ganz brauchbar beim Ausarbeiten. Ganz besonders beim Strukturieren und aufbauen einer längeren Geschichte.
Jedoch benötigt man hierfür sowas wie ein Projektmanager das einzelne Chats zu einem Gesammtprojekt zusammenfügen oder einsehen kann. Ein ganzes Buch kann meiner Ansicht nach heute noch kein offline KI Tool stemmen/managen. Und ich meine damit nicht das es ein ganzes Buch alleine schreiben soll.
LM Studio benötigt iwie immer sehr viel länger für die antworten. Mag an den Einstellungen liegen. Was mir nicht schmeckt ist das der "Thinking" Prozess immer direkt auf englisch ist und man kaum mitkommt.
Kann man das bei LM Studio und/oder Ollama iwie per Shell oder Logs nachverfolgen und umstellen auf deutsch?
Interessant finde ich auch das die Modelle/Hardware anscheinend beim Texten mehr buckeln als bei Bilder und Videos!? 🤔
Im nächsten Schritt würde ich mich dafür interessieren wie ich den Modellen neues beibringe mittels Dokumenten, Internetarchiven oder Ebooks.
ChatGPT & Co scheinen ja sehr umfassend informiert zu sein, aber die offline Modelle sind milde ausgedrückt etwas weniger belesen! 🙄
Interessant wäre auch wie man die offline Modelle gezielt nach online Infos suchen lassen kann ohne dass sie zu sehr aus dem Nähkästchen Plaudern.
) -Sammelthread sind, müsstest Du am besten einen eigenen Thread dazu aufmachen oder mal schauen, ob es einen gibt, dem Du Dich mit dem Thema anschließen kannst.