Ki Einsteiger (Claude)

[boeck]

Was bei den Kosten hilft: Planen mit teurem Modell und Code schreiben mit günstigerem Modell.

Die Frontier Modelle (wie Opus) kosten viel mehr beim Output als beim Input. Gerade beim Code erzeugen wird viel Output benötigt. Beim Planen hingegen wird nicht besonders viel Output benötigt.

Die günstigen Modelle können sehr gut Code schreiben, aber eben nicht so gut planen.

Also anfangen zum Planen mit Opus. Wenn fertig geplant ist auf Sonnet oder sogar auf Haiku umschalten und das geplante erzeugen lassen. Wenn man dann noch Änderungen planen will wieder auf Opus umschalten und planen und zum Code schreiben wieder auf das andere Modell wechseln.


Und du kannst dir auch OpenCode anschauen. Das finde ich intuitiver als Claude Code. Ist aber Geschmacksache.


Kannst auch bei Ollama wegen alternativen Modellen vorbei schauen. Die bieten sowohl lokale als auch online gehostete Modelle an. Da kannst ausprobieren ob auf deinem Rechner ein Modell läuft. Aber die günstigsten Cloud Modelle werden alles schlagen was man zuhause auf seinem Rechner laufen lassen kann.

Selbst das günstigste Modell welches mir auf meiner Arbeit zur Verfügung steht (DeepSeek V4 Flash für 0.3$/M Token output) benötigt mehr als 100 GB RAM.

 

[derMutant]

@boeck qwen3.8 Flash next läuft mit strata auch auf einer 12GB karte sehr performant und das ist laut Benchmark besser als erwähntes deepseek.
Grüße

 

[BeBur]

Ist sicherlich nett als Hobby, aber ein günstiges Modell von Anthropic oder OpenAI bekommt man für um die 20 Monat mit dabei, OP hat das Abo ja schon. Wenn man sich erst eine passende Grafikkarte zulegen muss, dann rechnet sich das noch weniger.

Sollte man nur machen, wenn man explizit das Geld nicht investieren will oder Spaß daran hat, damit herum zu probieren. Wenn man einfach eine funktionierende KI will, dann sollte man einfach bestehende Abo-Angebote nutzen.

 

[Weedlord]

finde den Hinweis mit der lokalen ki schon nicht schlecht. Wobei ich da denke ich noch was warte bis das besser und hardware effizienter wird. Es ist schon sehr wichtig das die Qualität stimmt. Ich arbeite mit an einer total conversion mod die 6 stellige abonnenten Zahlen hat, das ist keine kleine mini mod wo es keine Erwartungshaltung gibt.