Lokale KI zur Skript-Erstellung? (Powershell, VBS)

[AssassinWarlord]

Wow, danke
Ich spiele erstmal damit rum, hab aber schon festgestellt, das man mit LM Studio scheinbar keine Bilder erstellen lassen kann, wohl aber dass es Bilder erkennen kann.
Und - gibt es Möglichkeiten die KI mit dem Internet zu koppen, dass sie im netz nach infos sucht we was gehen könnte? oder ist das dann zu komplex?

 

[foxC]

Von allen Modellen die ich getestet habe ist Qwen3-Coder-30B-A3B-Instruct aktuell zum code schreiben sehr zu empfehlen.

 

[AssassinWarlord]

Muss mal mein alten thread hier hochholen um mal nachzufragen: das LMStudio kann man wohl auch über ein webservice oder API ansprechen, also sodass das ding theoretisch von mehreren Benutzern im Netzwerk genutzt werden kann, oder?

Meine Frage ist - Gibt es ein LLM welches richtig gut texte übersetzen kann, oder gar mit AddOns ganze Word-Dokumente laden, übersetzen und speichern kann? Also ähnlich wie DeepL Business?
Oder was könnte man für sowas hernehmen?
Ich überlege halt, sowas mal für die Firma zu konstruieren, also rei weg Netzwerk intern im kleinen Maße... Doof ist halt beim LM Studio, dass man scheinbar immer nur ein Model laden kann, und das es keine Bild-generierungs Modelle gibt direkt fürs LMStudio...

 

[oicfar]

Für Übersetzungen: translategemma:27b

https://golem.de/news/translategemma-google-oeffnet-seine-uebersetzungs-ki-2601-204254.html

 

[AssassinWarlord]

Ja, gemma3 27b hatte ich schon mehrmals von gelesen... Aber kann man damit DocX übersetzen?

Und habe da aber auch gehört, dass gemma3 stark zensiert sein soll, und wenn im Text auch nur ansatzweise etwas anzügliches oder gefährliches drin steht - dass es dann totalen kaudawelsch übersetzt :-/

 

[oicfar]

keine Bild-generierungs Modelle gibt direkt fürs LMStudio...

Ollama baut gerade was: https://ollama.com/blog/image-generation

 

[AssassinWarlord]

Für Bildgenerierung nutze ich aktuell ein StableDiffusion Ding was mit nem Webserver daher kommt, aber schaue mir da gerne auch andere Sachen an

 

[oicfar]

Ja, gemma3 27b hatte ich schon mehrmals von gelesen... Aber kann man damit DocX übersetzen?

translategemma ist neu und gut. LLMs selbst können keine speziellen Formate nicht lesen.

Und habe da aber auch gehört, dass gemma3 stark zensiert sein soll, und wenn im Text auch nur ansatzweise etwas anzügliches oder gefährliches drin steht - dass es dann totalen kaudawelsch übersetzt :-/

Ob es das macht, weiß ich nicht. Einfach versuchen und schauen, ob das gehörte auch zu 100% stimmt.

Ergänzung (3. Februar 2026)

Für Bildgenerierung nutze ich aktuell ein StableDiffusion Ding was mit nem Webserver daher kommt, aber schaue mir da gerne auch andere Sachen an

Es ist halt noch experimentell in Ollama.

 

[AssassinWarlord]

Jau schau ich mir auf alle Fälle mal an, danke
Das 27b Model wird sicherlich nicht in die 32GB der RTX5090 passen, oder?
Und auf einem halbwegs aktuellen Server mit 768GB in 12 Chanel-RAM Anbindung wird deutlichst zu langsam sein nehme ich an?

 

[JumpingCat]

Doof ist halt beim LM Studio, dass man scheinbar immer nur ein Model laden kann,

Ollama oder vllm-switch.

Ich überlege halt, sowas mal für die Firma zu konstruieren, also rei weg Netzwerk intern im kleinen Maße...

Da baut man halt mehrere Rechner auf. Du willst ja nicht ständig das die Modelle geladen und entladen werden.

 

[oicfar]

Jau schau ich mir auf alle Fälle mal an, danke
Das 27b Model wird sicherlich nicht in die 32GB der RTX5090 passen, oder?

translategemma:27b-it-q4_K_M -> 17GB
translategemma:27b-it-q8_0 -> 30GB
6Bit Variante ~22GB

 

[JumpingCat]

Das 27b Model wird sicherlich nicht in die 32GB der RTX5090 passen, oder?

Welches?

https://ollama.com/library/translategemma/tags

 

[Azghul0815]

Du wirst nie und nimmer als Privatperson an die Leistung von Opus 4.8 oder ähnlichen drankommen.
Nicht nur, weil das LLM mit so einer Leistung nicht auf Consumer HW passt, sondern auch weil die Gesamte Infrastruktur hinten dran ja u.u. Auch noch gehen muss.

Bekommt man mit gemma4b vernünftige Ergebnisse? Ja, kann es mit Claude und co mithalten...Kommt drauf an bei was. Twxz schreiben vermutlich, Coding und Code prüfen und das ganze testen...eher nicht

Ergänzung (3. Juli 2026)

Comfi-UI taugt für Bilder sehr gut.
Das Problem zu Hause ist eher, dass du u.U. Gerne ja alles in einer Frontend haben magst.
Das ist halt der Vorteil von ner Subscription.
Wenn du Comfi-UI, und ein LLM gleichzeitig laufen lassen willst....wirds schon eng mir der 5090