News Fable 5.2 und Mythos 5.2: Wieso Anthropics Frontier-Modelle im Alltag an Bedeutung verlieren

SheepShaver schrieb:
Die astronomischen Kosten der Top-Tier Modelle verbieten einen Einsatz außerhalb von ganz spezifischen Use-Cases.
Ich hätte gerne eine KI die nicht irgendwas vor sich hin halluziniert, sondern auch noch mal checkt, ob das wirklich stimmt was man mir antwortet. Ist das jetzt ein ganz spezifischer Usecase? Ich kann mir nicht vorstellen, dass ich damit so allein bin. Trotzdem wäre ich nie im Leben bereit dafür ein 99$ Abo abzuschließen.
 
  • Gefällt mir
Reaktionen: homunkulus und BOBderBAGGER
BOBderBAGGER schrieb:
@derMutant
Wir haben denke ich eine andere Art vom Vertrieb vor Augen.
Vertrieb ist Vertrieb. Wie gesagt, bereits aktuell für die meisten Kunden kein Unterschied zu erkennen. Hier ein langes Video dazu. In den ersten 15 min bekommt man aber schon einen ganz guten Überblick, wo die Reise definitiv hingeht.
Als Chef wäre das für mich ein absoluter no brainer

 
zett0 schrieb:
Ich hätte gerne eine KI die nicht irgendwas vor sich hin halluziniert, sondern auch noch mal checkt, ob das wirklich stimmt was man mir antwortet. Ist das jetzt ein ganz spezifischer Usecase? Ich kann mir nicht vorstellen, dass ich damit so allein bin. Trotzdem wäre ich nie im Leben bereit dafür ein 99$ Abo abzuschließen.

Ich glaube wir reden hier von anderen Größenordnungen. Hier als Beispiel eine typische OpenCode Session bei mir und die berechneten Kosten hätte ich die folgenden Modelle direkt über die Anthropic API genutzt:

ModelInputOutputCache writeCache readTotal
Sonnet 4.6$0.23$17.75$164.94$118.10$301
Sonnet 5$0.15$11.84$109.96$157.46$279
Sonnet 5.5$0.15$11.84$109.96$39.37$161
Opus 4.5–4.8$0.38$29.59$274.90$196.83$502
Opus 5$0.38$29.59$274.90$196.83$502
Opus 5.5$0.30$23.67$219.92$78.73$323
Fable 5$0.76$59.18$549.79$393.66$1,003
Fable 5.1$0.76$59.18$549.79$98.41$708
Fable 5.2 / Mythos 5.2$0.61$47.34$439.83$78.73$567
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: dettweilertj
Young Link schrieb:
Im Alltag? Bin ich bei dem Thema KI soweit hinterher, dass ich verpasst habe, dass sie bereits im Alltag Einzug erhalten hat?

Ja bist du. Wird in der Entwicklung von Prototypen im produktiven Umfeld längst genutzt bei gleichzeitiger Verkürzung von Projektlaufzeiten.
 
Im Pro Abo gibt es gerade mal Access zu Fable und Co. ja sind schon mega hab dort mal ein zwei Software Projekte reviewen lassen. Aber so dicke Modelle braucht man halt auch ganz selten, für Software Review oder wenn man irgendwelche super deepdiven Themen macht ansonsten ist das nur mit Kanonen auf Spatze geschossen.

Und mit Sonnet und Opus ist man schon extrem gut bedient.
 
derMutant schrieb:
Vertrieb ist Vertrieb. Wie gesagt, bereits aktuell für die meisten Kunden kein Unterschied zu erkennen. Hier ein langes Video dazu. In den ersten 15 min bekommt man aber schon einen ganz guten Überblick, wo die Reise definitiv hingeht.
Als Chef wäre das für mich ein absoluter no brainer
Ich verstehe beide Positionen. Wenn ich das Video schaue, dann habe ich das Gefühl, die KI würde in neinem Fall nur Arbeit abnehmen, für die ich so schon keinen Menschen brauche. Die bestehenden Angebote checken um etwas zu buchen, Seiten vergleichen anhand von Beachreibungen usw. mache sonst halt alles ich. Sobald es aber dann eine spezifische Frage gibt, die sich ja in meist aus unzureichender Beschreibung ergibt, steht die KI dann an. Sie kann dann vielleicht für mich nachfragen, aber wenn es nicht irgendwo steht wird sie beim "Vertriebler" nachfragen müssen.

Ich glaube, dass KI für die Masse wird. Die darf dann an der vorgefertigten Wand scheitern, so wie bisher halt am Callcenter in Indien. In sensiblen Bereichen oder wenn ich genug Geld bezahle, dann will ich besseren Service.
Beispiel:
Wenn ich genug Kohle habe, leiste ich mir einen Chauffeur und keinen FSD Tesla. Und selbst wenn, will ich einen der für mich den FSD bedient.

Menschengleiche oder überlegene Roboter KIs würden dann andere Herausforderungen schaffen, aber die werden entweder teurer als Menschen sein und deshalb Menschen nicht ersetzen (mein Lifetime Gehalt ist unter 2mio € - das darf ein Roboter dann in seinem 35 Jahre "Berfuseinsatz" auch maximal kosten, inklusive aller Updates, Wartung, Energiekosten, Neuausrichtung, Reparatur usw.), oder uns als Spezies vor ganz andere Probleme stellen als nur den Jobverlust.
 
  • Gefällt mir
Reaktionen: derMutant
Das problem des Vertriebs der Zukunft wird nicht sein, dass er ersetzt wird.

Das problem wird sein, dass die Kunden so nicht mehr existieren werden.

Handlungsentscheidungen der Kunden laufen dann irgendwann verpflichtend über KI. Der neue Kunde, wenn man denn so will, ist dann die KI selbst, die überprüft, manipuliert, whatever werden muss
 
  • Gefällt mir
Reaktionen: Antar3s und homunkulus
zett0 schrieb:
Ich hätte gerne eine KI die nicht irgendwas vor sich hin halluziniert, sondern auch noch mal checkt, ob das wirklich stimmt was man mir antwortet. Ist das jetzt ein ganz spezifischer Usecase? Ich kann mir nicht vorstellen, dass ich damit so allein bin. Trotzdem wäre ich nie im Leben bereit dafür ein 99$ Abo abzuschließen.
Nein. Aber deine Lösung wird in paar Monaten aus der EU kommen. Die gängigen Modelle schaffen das nicht.

Aber ich setz noch eins drauf: Meine ChatGPT Version meinte letztens cool sein zu müssen und fing aus dem nichts an Slang zu reden, Emojis zu werfen und so zu tun als wäre sie ein Mensch. Das war der 4. dieser Versuche. Sollte man sich Sorgen machen? 😐
 
nodhead schrieb:
Aber ich setz noch eins drauf: Meine ChatGPT Version meinte letztens cool sein zu müssen und fing aus dem nichts an Slang zu reden, Emojis zu werfen und so zu tun als wäre sie ein Mensch. Das war der 4. dieser Versuche. Sollte man sich Sorgen machen? 😐
Bei mir hat letztens Copilot (Modell?) statt "Spitzenleistung" einfach mal "Spitenleistung" geschrieben. Hatte ich so auch noch nie und ich geh ihm oft auf die Nerven.

Davor fürchte ich mich etwas, wenn in den Schulen über KI Einsatz geredet wird. Bisher wurde bei Tools nie in Frage gestellt, dass den Schülern prinzipiell die zugrunde liegende Technik beigebracht werden sollte. Trotz Taschenrechner, Rechtschreibprüfung und Diktiergerät. Aber nun häufen sich die Stimmen, dass man Texte schreiben vielleicht gar nicht mehr brauch usw. Da bin ich schon skeptisch, so mit Freiheit, Mündigkeit, Wohlstand, Unabhängigkeit usw.
 
  • Gefällt mir
Reaktionen: Strahltriebwerk und homunkulus
BOBderBAGGER schrieb:
Wenn meine Pancakes nix werden hab ich den ganzen Tag schlechte Laune. Das ist schon durchaus ernst.
Daher auch meine Fragen. Bekomm ich von einem kleinen Model gesagt Mehl und das große sagt mir dann welches und wieviel oder ist der Output und die Fehlerquote so nah und die Kosten so hoch das es sich nicht lohnt.
Naja. Die einen schmecken sehr gut, die anderen etwas pappig. Ja die Qualität dessen variiert auch. Mir hat ne KI hier auch mal gesagt, dass sie super in der Friteuse ausgebacken werden können. Ich wollte ein Rezept für muffins. Hier merkt der Mensch den Fehler recht schnell und korrigiert eben.
 
Duststorm schrieb:
Ich bin bei ChatGPT Work mit Terra auf Mittel sehr zufrieden!
Seit GPT 6.1 bin ich bei Sol als Standardmodell, und das ist dann doch noch mal spürbar besser als GPT 5.6 Terra war. Und es kostet nicht mehr.

Wobei der Harness ja auch viel ausmacht, und da bastelt Github Copilot auch fleissig dran rum. Ist also immer etwas schwierig das einzuschätzen, da sich an den Systemen ständig was ändert.
 
Im Alltag irrelevant, weil man sofort das Kontingent damit sprengt...

Im Artikel wird der Grund tatsächlich nicht genannt. Abstrus.
 
zett0 schrieb:
Ich hätte gerne eine KI die nicht irgendwas vor sich hin halluziniert, sondern auch noch mal checkt, ob das wirklich stimmt was man mir antwortet.
Die Frage ist, ist das Aufgabe vom Modell oder vom Agenten bzw. Harness?

Deine Aussage ist ein klassisches Problem beim Chat Prompt - technisch ist man heute aber eigentlich viel weiter.
zett0 schrieb:
Ist das jetzt ein ganz spezifischer Usecase? Ich kann mir nicht vorstellen, dass ich damit so allein bin.
Alleine nicht, aber diese Art KI zu nutzen ist so 2023 - um es mal salopp auszudrücken. Die Fehler passieren heute immernoch, wenn auch etwas weniger. Soviel vorab, aber wie man damit umgeht, wurde drastisch geändert. Klassisches Prompt Engeneering bedeutet, Mensch fragt Chat, Modell antwortet, Mensch reviewed, fragt weiter, oder meldet Fehler und fragt nochmal, Modell antwortet wieder, ...

Heute würde man das anders machen. Du fragst nicht deine Frage 1:1 wie sie im Kopf ist, und schon gar nicht gibst du Schritte erst nach und nach rein, sondern beschreibst was raus kommen soll und gibst dem Modell Prüfkriterien und Anweisungen zum verifizieren. Also anstatt zu fragen, was ist 1+2×3 was vielleicht dann einfach geraten falsch ausgegeben wird, fragst du ihn: Berechne 1+2×3. Erkläre jeden einzelnen Rechenschritt und beachte mathematische Vorrangregeln (wie Punkt-vor-Strich).
Wenn du jetzt noch nicht kur im Chat Fenster agierst, sondern via Harness, könnte man das noch ergänzen mit der Gegenprobe über den System Taschenrechner.

So zu fragen gibt dem Agenten bzw. Harness viel bessere Optionen. Auch sind ausstiegsklauseln häufig sinnig um das raten zu vermeiden. Sag ihm also, wenn er nicht weiter kommt, soll er das einfach sagen.

Zugegeben, das ist ultra einfach gesagt, die Beispiele sind aber auch ultra flach. In komplexeren Zusammenhängen mit mehreren Sub Agenten und vielen tausend oder zentausend Input Token kann und will man sich keine derart einfach zu vermeidenden Fehler erlauben.

Das Gedankenproblem beim Mensch ist aktuell nur, du musst den Weg mit gehen. Eine KI ist kein Taschenrechner oder Computer, es ist im Grunde ein Wort-Vorhersage Gerät. Es kann auf Basis von Wahrscheinlichkeiten Wörter in einem Kontext vorhersagen im Sinne von, wie Wahrscheinlich passt das Wort als nächstes in den Satz. Das Problem dabei ist, Wahrscheinlichkeiten haben kein richtiges falsch oder richtig, sondern nur näherungsweise eine höhere ofer niedrigere Quote ob das nächste Wort passen könnte. Falsch ist in dem Zusammenhang zu denken, dass die KI irgendwie selbst denken kann, dass das wie eigenes Gehirn funktioniert. Das ist es eben nicht. Deswegen muss man gezielt die Funktionsweise berücksichtigen um das passende Ergebnis zu bekommen. Das fällt den meisten Menschen schwer, weil für diese ChatGPT (like) Chat Prompts schon das höchste der KI Gefühle ist. Also man denkt dass das schon "alles" ist.

Was übrigens auch sehr gut funktioniert ist die KI zu fragen wie man sie fragen soll ;) Also das ideale Prompt von der KI zu einem Problem schreiben zu lassen anstatt sich da selbst einen abzubrechen und dann doch wichtige Dinge zu vergessen.

Die Modelle selbst sind heute schon weitestgehend sehr gut, die großen TopEnd Modelle sowieso. Das Wie ist aber der Knackpunkt.
 
  • Gefällt mir
Reaktionen: TeeKayEV, sioh, Strahltriebwerk und eine weitere Person
Frontier Modelle brauchen viel zu viel Limits/Kosten für den kleinen Benefit. Zudem sind meine Projekte nicht so verrückt komplex dass ich es brauchen würde.

Mein Favorit ist ChatGPT 6.1 Terra.
Ausreichend gut für das meiste und Vibe Coden bis zum Abwinken mit ChatGPT Plus Abo.
 
Spannend ist das alles schon, aber JEPA und NCM einfach zusammen als World Models zu nennen und daraus gleich abzuleiten, daß die Kosten von Frontiermodellen in ein paar Monaten deutlich fallen, ist schon ziemlich sportlich. V JEPA 2 wird bei Meta tatsächlich als World Model für Verstehen, Vorhersage und Planung eingesetzt. NCM ist dagegen Next Concept Modeling und erzeugt Text hierarchisch und parallel. Die 10 bis 31 mal schnellere Generierung wurde gegen Diffusionsmodelle gemessen und die bisherige Skalierung geht bis 725M Parameter. Wie kommt man von dort schon sicher zu "Monate statt Jahre"? Bauchgefühl mit Fachbegriffen drumherum? ;)

Bei mir läuft Qwen3.6 27B lokal und ich habe dem Ding inzwischen praktisch einen eigenen Computer gegeben XD Über Open Terminal hat es sein eigenes Terminal, dazu Gedächtnis und zusätzliches Wissen. Ich schreibe inzwischen sinngemäß nur noch: Bau mir Pac Man, diese Steuerung, diese Vorgaben, testen, Fehler korrigieren und erst zurückkommen wenn der Loop sauber durchläuft. Beim ersten Versuch kam tatsächlich ein spielbares Pac Man raus. Eine Taste mußte ich korrigieren, sonst lief es. Ich weiß, für viele ist AI immer noch Prompt rein und Antwort raus, aber da fängt das Thema für mich eigentlich erst an.

Dazu kommen Decision Transformer, Policies, Planung und inzwischen native Audio und Omni Modelle, die Sprache oder gleich Text, Bild, Audio und Video direkt verarbeiten. Warum sollte man sich da überhaupt zwischen lokal und online entscheiden? Gedächtnis, Wissen, Dateien, Terminal und Tests können lokal laufen und wenn Qwen wirklich an eine Grenze kommt hole ich eben gezielt ein Frontiermodell dazu. Vielleicht ist die spannendere Frage gar nicht welches einzelne Modell "gewinnt", sondern wer daraus das bessere Gesamtsystem baut.

Und bei den Kosten ist es für mich noch einfacher, lokal zahle ich nicht pro Token. Wenn das Modell für meine Aufgabe gut genug ist läuft es eben. Für die paar Fälle wo ich mehr brauche kann ich immer noch gezielt ein Frontiermodell nehmen. Deshalb finde ich diese reine Preis pro Token Sicht sowieso etwas zu kurz gedacht.
 
  • Gefällt mir
Reaktionen: Meliodas2077 und Snakeeater
Duststorm schrieb:
Unser neues Fuhrparksystem habe ich von ChatGPT letzte Woche innerhalb von 3 Stunden gebaut. Und nun haben wir auch alle Features, um die wir die letzten 4 Jahre vergebens gebettelt haben und nie kamen
Ist alles schön, solange es läuft… spannend wird es erst wenn es mal zu Problemen kommt und durch Fehler passiert was, fällt was aus und/oder es ist sehr viel Geld im Spiel. Wer haftet dafür? Wer übernimmt die Verantwortung?
 
  • Gefällt mir
Reaktionen: Antar3s und homunkulus
Heute kam die Mitteilung der ING, ich könne über die am Anthropic IPO teilnehmen. Das heut noch mal bessere Frontier-Modelle vorgestellt werden, geht ja quasi gar nicht anders. Mal schauen, ob es nicht vorher auch noch für einen kleinen „Skandal“ für ein bisschen PR vor dem IPO reicht 😄
 
was ich schlimmer finde. Man wird immer mehr eingeengt von der KI bzw. wird zu hart abgeriegelt. Da kann man nur auf OpenSource Modell oder China Modelle hoffen.
 
jauns91 schrieb:
Frontier Modelle brauchen viel zu viel Limits/Kosten für den kleinen Benefit. Zudem sind meine Projekte nicht so verrückt komplex dass ich es brauchen würde.
Kann ich von meinem Projekt leider nicht sagen. Mir sind die sog. Frontier Modelle leider allesamt immer noch viel zu dumm. Ich muss nach wie vor meine Agenten gerade zu zwingen, die engine doku zu lesen wenn sie auf "neue" Erkenntnisse gestoßen sind. Das ist sehr mühseelig. Ich warte hier immer noch auf AGI!
 
Zurück
Oben