qt6 C++ Programmierung - Welche KI nutzen?

[Ikarus33]

Möchte ein Programm mit qt6 in C++ schreiben. Welche KI kann mich dabei am effektivsten Unterstützen?
Für die KI möchte ich LM-Studio nutzzen. Die KI muss lokal laufen (ganz wichtig). Eingesetzt wird Linux und Windows.
Welches Modell kann mich am besten unterstützen? Bei der Modellvielfalt blicke ich nicht durch. Manche liefert schnell eine Antwort, andere brauchen Minuten. Zudem ist häufig der Output nicht brauchbar.

Bitte keine Tipps in Richtung nutze Visual Studio oder C#.

Ergänzung: Es dürfen keine Kosten anfallen!

Hardware AMD Ryzen 3900X, 64 GB RAM (DDR4)
Geforce RTX 2070 super mit 8 GB RAM

Bei KI bin ich totaler Anfänger. Keine Ahnung wie man damit Fotos oder Videos erstellt. Aber das will ich nicht. Die KI soll mir Hilfestellung beim Programmieren geben.

 

[dermoritz]

Ich persönlich finde Github Copilot am besten, denn dort kannst jedes Modell benutzen (mit unterschiedlichen Kosten).
Z.b. habe ich meisten Anthropic benutzt, zum Recherchieren und Dokumente schreiben GPT. Seit den 5er Modellen bei Anthropic benuutze ich nur noch GPT. Anthropic ist schlechter geworden.

Mein Punkt ist: du kannst jederzeit umschalten, hast alle Modelle.

 

[KillerCow]

Die KI muss lokal laufen (ganz wichtig)

Was für Hardware hast du denn dafür? Ohne die Info ist es schwierig, dir was zu empfehlen...

Abgesehen davon, es gibt doch im Netz Unmengen an Infos zu KIs und wofür die zu gebrauchen sind. Hier jetzt eine kleine Gruppe von Leuten zu befragen ist da auch nicht unbedingt ideal. Frag doch mal ne KI

 

[Garmor]

Manche liefert schnell eine Antwort, andere brauchen Minuten.

Große und leistungsstarke Modelle brauchen halt länger als kleine dumme Modelle und System-RAM ist bedeutend langsamer als VRAM. Also bist du gerade in der blöden Position, dass du zwar große Modelle laden kannst, die aber arschlahm sein werden.

 

[Ikarus33]

Danke für die Antworten.

Bisher helfen die antworten mir wirklich nicht weiter.
Ich brauche einen Hinweis in der Art "Nehme Modell xy1 oder xy2".

 

[Narkry]

Das hängt komplett von der Menge an VRAM ab. CPU und Arbeitsspeicher sind quasi egal.
Was mögliche Modelle angeht (zumindest meine Favoriten):

VRAM	Model
4gb	XHToken/Spark-X2.5-4B
8-11gb	Ornith 1.5 9B Q4_KM bzw Q8 bei 11gb
16 gb	ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF
>= 24 gb	Qwen 3.8 27B mit der größten Quantification die ganz in den VRAM passt

 

[nutrix]

Bisher helfen die antworten mir wirklich nicht weiter.
Ich brauche einen Hinweis in der Art "Nehme Modell xy1 oder xy2".

Das liegt daran, daß Du uns nicht genau Deine Hardware verrätst. Oder ist Dir der Zusammenhang KI Leistung - GPU - VRAM nicht bekannt?

Ergänzung (Gestern um 11:24)

Ergänzung: Es dürfen keine Kosten anfallen!

Damit hast Du dann eh verloren. Für nichts gibt es nichts. Strom wird sowas immer verbrauchen. Die Onlinemodelle sind nun mal auch besser und effektiver, und ein Abo für ca. 20-30 € kostet nicht die Welt und ist wesentlich leistungsfähiger als das, was Du "günstig" lokal aufziehen könntest.

Wenn Du eine GPU mit 24-32 GB VRAM hast: Qwen3-Coder (32B) oder DeepSeek-Coder. Qwen3-Coder (7B) läuft auch bis 8GB VRAM, aber ob Du damit bei anspruchsvolleren Sachen glücklich wirst, ist fraglich.

 

[peacermaker]

Frage doch einfach die Ki gemini was für deine Hardware paßt. Ich nutze ollama mit open webui dazu dann ein lokales coder modell wie qwen3-coder:8b oder halt als etwas größere qwen3-coder30b.Ein allrounder wäre das qwen3.8 je nach Hardware gibt es da verschiedene Versionen dieses hat sogar Web zugriff wenn man das entsprechend einrichtet.Auch uncensored ungefilterte Modelle sind verfügbar auf huggingface.co .

 

[nutrix]

Frage doch einfach die Ki gemini was für deine Hardware paßt.

Das wäre das naheliegendste. Und sich unbedingt mal anschauen, was die einzelnen freien LLMs bei C++ so leisten:
https://deepseekcoder.github.io/

ABER DeepSeek mit der besten C++ Performance bei 33B braucht schon unkomprimiert bis zu 70GB VRAM. Mit 4bit Quantisierung könnte man mit 24 bis 32 GB VRAM hinkommen, aber wie gut das Ergebnis ist müßte man erst testen.

 

[Garmor]

ABER

das ist auch schon gute zwei oder drei Jahre alt.

 

[Ikarus33]

Mir geht es Hauptsächlich darum eine schnelle Hilfe zum Programmieren zu bekommen. Qt ist sehr gut dokumentiert, aber das Suchen dauert ein wenig bis ich das gewünschte gefunden habe. Genau da soll die KI helfen. Natürlich soll die KI auch bei Programmierfragen helfen und ein wenig zum Code beitragen.

 

[dermoritz]

Mhm - lokal und mit dieser Hardware - schwierig. Dann ist Googles AI Mode wahrscheinlich die beste Option.
Mit besserer HW (16gb vram) könnte man aktuelle QWen Varianten probieren.

-> es fallen Stromkosten an :-P

 

[Ikarus33]

Stromkosten übernimmt das Balkonkraftwerk zum Sozialtarif!

 

[nutrix]

Mir geht es Hauptsächlich darum eine schnelle Hilfe zum Programmieren zu bekommen.

Was spricht dann gegen ein gescheites Abo? 20-30 €/Monat sind doch leistbar. Beim Kauf eines Pixel 10 waren 12 Monate kostenloses Gemini dabei, bei 11 werden mir nur noch 6 Monate angeboten, aber das würde ja für Dich so ausreichen.

Alternativ ist die günstigste GPU 16 GB bei einer 5060TI ab ca. 700 € und bei einer 9060 16 GB ab ca. 500 € zu haben. Davon könntest Du 2 Jahre lang ein Abo bezahlen und hättest neuere und leistungsfähigere Modelle. Mit der GTX 2070 wirst Du hier nicht weiter kommen und eher gefrustet von den Einstiegshürden und der Langsamkeit des Prompts.

 

[Ikarus33]

Bin ich Krösus?
20-30 € pro Monat gibt mein Budget nicht her!
Nicht umsonst stehe ich ab Mitte des Monats an der Suppenküche an.

 

[nutrix]

Du mußt nicht gleich unhöflich werden. Wir haben hier keine Glaskugel und kennen Deine Situation doch gar nicht. Für einen normal arbeiteten Menschen sind 20-30 € kein Thema. Zudem finde ich es dann seltsam, daß Du Dir ein Balkonkraftwerk leisten kannst, aktuelle Hardware für Deine Zwecke nicht?

Dann hat sich Frage nach einer neueren GPU bei Dir wohl auch erübrigt. Hier mußt Du dann wohl auf die freien Kontingente der Anbieter zugreifen, um überhaupt vernünftige Resultate zu bekommen, lokales Hosten wird schwierig. Du hast hier einige Antworten bekommen, die Du nun selbst in Deiner Umgebung testen mußt, mehr und besser wird es nicht gehen. Wäre schön, wenn Du dann auch Deine Erfahrungen mit uns teilst, oder wie letztlich dann Deine Lösung war.

 

[Garmor]

schnell

Ist halt mit deiner Hardware nicht drin.

 

[Ikarus33]

Ich wollte nicht pamig werden. Sorry.
Ich möchte nur ein klein wenig Unterstützung durch eine KI beim programmieren. Ich bin Computernerd. Bei mir hört es kurz nach der For-Next-Schleife auf.

 

[nutrix]

Ich bin Computernerd. Bei mir hört es kurz nach der For-Next-Schleife auf.

Bei aller Liebe, das bist Du nicht, richtige Computernerds können programmieren. 😉

Wenn Du anscheinend "Zeit" hast, warum lernst Du nicht gleich richtig programmieren? Ich frage mal ganz anders, was willst Du denn überhaupt genau mit gt6 und C++ machen? Vielleicht hast Du ein XY-Problem, und Dein Anliegen läßt sich vielleicht anders lösen, ohne daß Du programmieren mußt?

Wie gesagt, ansonsten mußt Du Dich bei den freien Kontingenten wie Google, ChatGPT und Copilot soweit durchwursteln, wie es geht. Erfahrungsgemäß kann ich Dir aber gleich sagen, daß es sehr mühsam für Dich sein wird, wenn Du kaum tiefere Kenntnisse darin hast.

 

[Andarkan]

Bei mir hört es kurz nach der For-Next-Schleife auf.

Dann finde ich es sehr ambitioniert, gleich mit C++ anfangen zu wollen.