Ich glaube, wir sehen hier gerade den Beginn des Endes des KI Hypes und das passt zu dem, was ich bei uns sehe und es kommt für mich aus einer völlig überraschenden Richtung. Der Reihe nach.
Zuerst mal:
SW-Entwicklungsfirmen, die nicht auf KI setzen, haben sehr spezifische Gründe oder sind dumm. Ein:e Entwickler:in bekommt Brutto irgendwas zwischen 50 und 80k und dazu kommen dann noch Lohnnebenkosten für den Arbeitgeber um 30-50%. Die genauen Zahlen sind nicht relevant, die Größenordnung.
Ein Anthropic Team Pro Account kostet momentan ~100 Euro pro Monat, das sind so im Bereich 1-2% der Kosten einer Person. Die Effizienzsteigerung durch KI ist real. Nicht da, wo Sam Altmann sie verspricht - aber mindestens eine Größenordnung jenseits der 1-2%. Daher: KI ist für wirtschaftlich agierende Firmen sinnvoll.
Aber:
Das, was die Großen der KI gerade machen ist der Versuch eines Vernichtungswettbewerbs. Sie alle beschaffen RZ-Kapazitäten, die ihren gewünschten finalen Marktanteil markieren, nicht das, was sie am Ende bekommen können (weil die Kuchenstücke, die die sich wünschen am Ende mehr als einen ganzen Kuchen ergeben). Und: Diese Team Accounts (gibts auch von OpenAI, AWS...) sind ja nur zum Anfixen gedacht. Wer nach Tokens bezahlt ist auf einmal nicht mehr bei 100 Euro im Monat sondern eher bei 100 Euro am Tag.
Und dann stellt sich die Frage nach der Wirtschaftlichkeit nochmal ganz anders. Und es ist zu erwarten, dass alle KI Firmen in Kürze gieriger werden, weil sie ihre Kosten perspektivisch reinholen werden müssen.
So weit, so bekannt.
Warum ich jetzt glaube, dass wir demnächst die Blase platzen sehen werden ist eine ganz andere Richtung.
Wir haben bei uns in der Firma ein eigenes Modell parallel zu unseren kommerziellen Zugängen aufgesetzt. Hintergrund war, dass wir mit Daten hantieren können wollen, die unser RZ nicht verlassen dürfen. Unsere Erwartung war, dass wir am Ende - trotz eines individuellen Trainings auf unsere Daten - Größenordnungen an Qualitätsverlust gegen Sonnet/Opus sehen würden.
Für uns überraschend sind zwei Dinge: Erstens bringt das individuelle Training viel weniger als gedacht (bringt was, ist aber für das Ergebnis zu teuer) und zweitens: Ein Qwen ist nicht notwendigerweise schlechter als ein Opus.
Es kommt drauf an.
Ein Opus hält die Konsistenz der Sitzung wesentlich länger, ein Qwen driftet schneller. Wenn ich das Ding allerdings nur als "Chatbot" benutze, und die einzelne Antwort bewerte, kann man da kaum Unterschied erkennen.
Und dann wird es eine wirtschaftliche Frage. Wenn ich mit einem Server, der einmalig 200k kostet, jährliche Tokenkosten von 50-100k einsparen kann, dann macht das völlig neue wirtschaftliche Fragen auf. Und wenn ich dann die Frontier-Modelle benutzen kann, um lokale Agenten zu steuern (also ein Opus, das ein Rudel Qwens kontrolliert), dann bezahle ich nur noch einen Bruchteil der Tokens an Anthropic und das dann nur noch für die Teile, bei denen ein OSS Modell eben noch nicht ausreicht. Und die OSS Modelle werden immer besser.
Mit Mixture of Experts auch auf moderater Hardware lauffähig.
Und dann sind wir wieder am Anfang. Im Moment kaufen alle. Die großen, Firmen, die sich eigene Infrastruktur aufbauen wollen und am Ende auch die Privatanwender:innen, die sich ein Gorgon Halo mit 192gb Speicher hinstellen. Jeder wettet auf irgendwas und am Ende können nicht alle gewinnen.
Nach dem, was ich die letzten Wochen gesehen habe, setze ich mein Geld nicht mehr auf OpenAI oder Anthropic. Und wenn das mehr Leute so sehen, könnten da einige Luftschlösser sehr schnell in sich zusammenfallen - ganz ohne, dass die Substanz am Boden bestehen bleibt.
))
