News OpenAI o3: KI-Modell könnte für mehr Kosten sorgen als gedacht

[pseudopseudonym]

Und Zeit sparen tut man da bislang auch nicht wenn es um Programmieren geht.

Da sind meine Erfahrungen aber ganz andere.
Kann sein, dass du das mit dem Prompt-Engineering einfach noch üben musst.

Denn man muss so einen Chatbot andauernd wegen blödsinniger kleiner Programmierfehler korrigieren.

Nö, ist deutlich weniger geworden.

Und es besteht die Gefahr, dass man sich mit einem LLM ständig im Kreis dreht ohne mit der Aufgabe vorwärts zu kommen.

Dann kann man das immer noch selbst machen.

 

[pacifico]

Immer größere mechanische Papageien zu bauen wird auf Dauer halt auch nicht die Lösung sein.

Nichts anderes sind LLMs

Naja, du beschreibst den Stand Ende 2022....

Die Reasoning Modelle sind schonein ganz anderes Kaliber.

 

[alyk.brevin]

Neben den "Kosten pro Anfrage" würde mich mal der "Energiebedarf pro Anfrage" interessieren (in kWh).

ich würde mal sagen, dass die kosten hauptsächlich energiekosten sind. ich schätze ca 5-7cent pro kwh (evtl noch +steuern etc?) laut https://www.eia.gov/electricity/monthly/epm_table_grapher.php?t=epmt_5_6_a

 

[Weyoun]

ich würde mal sagen, dass die kosten hauptsächlich energiekosten sind.

Energiekosten sind nur ein Teil des Ganzen. Zusätzlich müssen ja zu Beginn (überteuerte) KI-Beschleuniger-Karten bei Nvidia und Co. gekauft werden und dazu noch der Rest der Komponenten für die "Serverfarmen".
Wenn erst noch Atomkraftwerke aus dem Boden gestampft werden müssen, steigen die anfänglichen Kosten schnell ins Unermessliche und die Energiekosten machen in der Tat den Hauptteil der Kosten aus.

 

[aid0nex]

Ich nutze aktuell viel Gemini 2.5, bezahle dafür kein Geld. Wie viel kostet Google denn da wohl so eine Anfrage? Die werden ja wohl kaum Gewinn damit machen... Also, warum dieser Invest? Einfach nur um first to market zu sein?

 

[Botcruscher]

Der Artikel hat viele wilde Zahlen ohne auch nur mit etwas Substanz diese zu erläutern. Es könnten auch 42 oder drölf sein. Alleine die Frage ob da jetzt das Training oder der Betrieb gemeint ist. Mit Industriestrompreisen und einem Server kommt man da auf jeden Fall nicht hin.