News Fable 5.2 und Mythos 5.2: Wieso Anthropics Frontier-Modelle im Alltag an Bedeutung verlieren

BOBderBAGGER schrieb:
Ja ok, aber warum ?

Weil die einfach zu überdimensioniert sind, für den normalen Alltag. Reines coden und entwickeln zB einfacher Apps oder auch Spiele packt Sonnect/Opus bereits ziemlich gut (mal ein paar stolperer außen vor gelassen).

Die Frontiers schmelzen in diesen Fällen dann einfach dein Nutzungslimit weg ohne wirklichen Benefit.
 
  • Gefällt mir
Reaktionen: nyster, MacFu, G00fY und 2 andere
BOBderBAGGER schrieb:
Ich hab die meldung jetzt 2 mal gelesen. Die frage wieso Anthropics Frontier-Modelle im Alltag an Bedeutung verlieren ist immer noch unbeatwortet.
Dann lies vielleicht noch ein drittes Mal:
Über die Claude-App und die regulären Pläne müssen Nutzer noch selbst wählen, welches Modell zum Einsatz kommt. In Claude Code und über die API bietet Anthropic bereits Mechanismen, die diese Aufgabe übernehmen:
Statt alles mit einem Modell zu erledigen, werden Aufgaben nach Bedarf verteilt. Je einfacher eine Aufgabe ist, umso eher kann auch ein kleines Modell diese erledigen. Möglich wird das dadurch, dass auch aktuelle kleine Modelle schon sehr gut funktionieren und in ihrer Leistung früheren Frontier-Modellen entsprechen.
 
  • Gefällt mir
Reaktionen: dettweilertj
SheepShaver schrieb:
Die astronomischen Kosten der Top-Tier Modelle verbieten einen Einsatz außerhalb von ganz spezifischen Use-Cases...

So kann man sich auch schönreden das man sich die Top Intelligenz nicht leisten kann oder will. Ich denke ja es ist jedem klar das Zugriff auf Intelligenz im Sinne von AI absolut Pay to Win ist.


Nur wer blecht und mithalten kann mit den teuren Abos um auch nutzen aus der Top Intelligenz zu ziehen wird davon profitieren.
 
@stefan92x
Auch in dem Zitat steht nicht warum das so ist.
Warum sollen nicht api nutzer (es geht da ja nicht immer nur um coden) nicht das beste modell asuwählen ?

Geschwindigeit? Kosten ? Kommt da sowieso das gleiche raus ? oder ist das delta beim output so klein das es sich nicht wirklich lohnt ?
 
Zuletzt bearbeitet:
mmdj schrieb:
für mich liegt weiterhin die kunst darin herauszufinden welches modell man nun für welche aufgabe verwenden soll.
Ich bin bei ChatGPT Work mit Terra auf Mittel sehr zufrieden! Mich würde mal interessieren, ist jemand hier kürzlich von ChatGPT auf Claude gesprungen und sagt nun ganz "neutral", wow, Gamechanger?!
Manchmal kommts mir so vor, als wär das einfach eine Hypetrain, wo viele aufgesprungen sind. Oder täusche ich mich?
 
  • Gefällt mir
Reaktionen: Taikaschi, dettweilertj und stefan92x
Die CLAUDE.md von Fable schreiben lassen, durchlesen und korrigieren (kann mal länger dauern). Reinschreiben dass für jeweilige Aufgabenstellung das passende Modell genommen werden soll und dann funktioniert das schon gut. Nicht perfekt aber sehr, sehr brauchbar.
 
  • Gefällt mir
Reaktionen: G00fY und sioh
therealcola schrieb:
So kann man sich auch schönreden das man sich die Top Intelligenz nicht leisten kann oder will. Ich denke ja es ist jedem klar das Zugriff auf Intelligenz im Sinne von AI absolut Pay to Win ist.
Das Preis/Leistungs-Verhältnis muss auch bei Pay-to-Win passen. Wirklich niemand bei Verstand würde magische Pfeile für 1000 Euro pro Zwischenbosskampf kaufen, wenn er den auch mit seiner normalen Bewaffnung erschlagen kann. Die schweren Geschütze kommen dann für die wirklich schweren Gegner.

Genau so ist es mit AI.
therealcola schrieb:
Nur wer blecht und mithalten kann mit den teuren Abos um auch nutzen aus der Top Intelligenz zu ziehen wird davon profitieren.
Wer mit weniger Tokenverbrauch und/oder kleineren Modellen die gleichen Probleme löst, der verdient mehr Geld als jemand, der alles mit dem größten Modell macht.
BOBderBAGGER schrieb:
Warum sollen nicht api nutzer (es geht da ja nicht immer nur um coden) nicht das beste modell asuwählen ?
Ah ok... ja das wird nur angedeutet.
BOBderBAGGER schrieb:
Geschwindigeit? Kosten ? Kommt da sowieso das gleiche raus ? oder ist das delta beim output so klein das es sich nicht wirklich lohnt ?
Ja. Alles davon. Für viele Aufgaben sind kleine Modelle schon eben so gut wie die großen - es gibt eben kein "richtiger als richtig" bei vielen Fragen. Und damit wird es günstiger, das kleine Modell zu nutzen. Ob das auch schneller ist, kommt bisschen auf die Auslastung des jeweiligen Dienstes an, aber zumindest gefühlt ist die Antwort darauf oft auch ja.
 
  • Gefällt mir
Reaktionen: nyster, KaHaKa, homunkulus und 6 andere
@stefan92x
Danke eine solche erklärung habe ich in einem Artikel mit der überschrift erwartet.
Wir sind nicht alle so tief in der LLM Nummer das sowas intuitiv ist.
 
BOBderBAGGER schrieb:
@Andy
Ich hab die meldung jetzt 2 mal gelesen. Die frage wieso Anthropics Frontier-Modelle im Alltag an Bedeutung verlieren ist immer noch unbeatwortet.



Ja ok, aber warum ?
Weil sie weniger Computer benötigen als die großen Modelle würde ich mal sagen. Für ein pancake Rezept braucht die Masse keine übertrieben genaue KI. Bei Jahresbudgetverwaltung und Steuerberechnung dann schon.
 
  • Gefällt mir
Reaktionen: Xiaolong
Silencium schrieb:
Wir sind hier im 5090er Forum. Kannst Du mit Deinem "ich bin arm" Geheule bitte auf Reddit verschwinden? 🫠🫥😁 (SCNR)
Keine Ahnung wie du das mit Geheule gleichsetzt, aber ist doch gut für dich, dass du dein Stammtischgehabe hier kurz ausleben konntest.

Mit 14% Anteil an 4090 und 5090 sind's nicht wenige Leute. Aber weit weg von Mehrheit. Frag sonst mal deinen Kollegen namens GLM 5.3. Sicherlich ohne Quantisierung zuhause in Betrieb, oder? Weil alles andere wäre ja nur arm ;)
 
Saiba schrieb:
Keine Ahnung wie du das mit Geheule gleichsetzt, aber ist doch gut für dich, dass du dein Stammtischgehabe hier kurz ausleben konntest.
Es war doch gar nicht ernst gemeint 🫤
Dachte die Ironie kommt rüber - entschuldige!

Deswegen auch der Daumen hoch bei Deiner Nachrichten; hatte selbigen Gedanken.
 
  • Gefällt mir
Reaktionen: KaHaKa und kuddlmuddl
stefan92x schrieb:
Das Preis/Leistungs-Verhältnis muss auch bei Pay-to-Win passen. Wirklich niemand bei Verstand würde magische Pfeile für 1000 Euro pro Zwischenbosskampf kaufen, wenn er den auch mit seiner normalen Bewaffnung erschlagen kann. Die schweren Geschütze kommen dann für die wirklich schweren Gegner.
Der Pferdefuß bei der Betrachtung ist, dass du es vorher nicht wissen kannst ob die Antwort stimmt. Wahrscheinlich werden die aller wenigsten von unten nach oben oder eben oben nach unten die Fragen alle samt durchtesten um am Ende wirklich zu bewerten ob das mehr an Kosten (API direkt oder indirekt über Token) gerechtfertigt über den Output ist. Und es gibt auch keine externe Stelle, die das für einen machen kann, weil neben dem Standard Kram, ultra individuell und höchst Unterschiedlich ist.
stefan92x schrieb:
Wer mit weniger Tokenverbrauch und/oder kleineren Modellen die gleichen Probleme löst, der verdient mehr Geld als jemand, der alles mit dem größten Modell macht.
Das ist dann schon eher praktisch bezogen - die Grenzen verschwimmen aber. Es ist idR eben auch so, dass "schlauere" Modelle mit höherem reasoning effort viel weniger Fehler machen. Das lässt sich mit niedrigeren Modellen zwar etwas kaschieren, indem dann einfach im Loop oder via Agent so lange am "Problem" rumversucht wird, bis es trotzdem passt, aber das ist trotzdem ein bekanntes Thema dabei.
stefan92x schrieb:
Für viele Aufgaben sind kleine Modelle schon eben so gut wie die großen - es gibt eben kein "richtiger als richtig" bei vielen Fragen.
Die wenigsten Leute werden nur ja/nein Fragen stellen. Nehmen wir mal als Beispiel das Coding Umfeld, dann gibt es idR kein richtig oder richtiger als richtig. Es gibt sonstwie viele verschiedene Wege, unzählbar. Man kann bestenfalls noch adaptieren, wie es ein Mensch machen würde, aber auch der ist nicht perfekt. Hier gibt es also eigentlich gar keine Frage ob richtig oder nicht, sondern das "wie" entscheidet.

BOBderBAGGER schrieb:
Danke eine solche erklärung habe ich in einem Artikel mit der überschrift erwartet.
Wir sind nicht alle so tief in der LLM Nummer das sowas intuitiv ist.
Das Hauptproblem dabei ist wohl viel eher, dass diese Pauschalen eigentlich eher unsinnig sind. Was noch dazu kommt, je nach Umfeld und Kontext verweigern die einfachen Modelle den Dienst bzw. die Anbieter geben exklusiv für spezielle Modelle Fähigkeiten frei. Alles was mit Cybersicherheit zu tun hat, um mal einen Begriff in den Raum zu werfen, kannst du heute mit den regulären Bezahlmich-Abo Modellen quasi vergessen. Frag mal ein Opus, Fable GPT Astra oder GPT-6.1 nach einem PoC für PHP2Shell für deine eigene Software. Da wirst du nix bekommen. Sowas gibts hinter einer Paywall und Nasenentscheidung für ausgewählte Unternehmen. Oder eben lokal via "offener" Modelle (wenn du genug Hardware drauf schmeißen kannst).
 
  • Gefällt mir
Reaktionen: peru3232, minalion und BOBderBAGGER
nodhead schrieb:
Für ein pancake Rezept braucht die Masse keine übertrieben genaue KI
Wenn meine Pancakes nix werden hab ich den ganzen Tag schlechte Laune. Das ist schon durchaus ernst.
Daher auch meine Fragen. Bekomm ich von einem kleinen Model gesagt Mehl und das große sagt mir dann welches und wieviel oder ist der Output und die Fehlerquote so nah und die Kosten so hoch das es sich nicht lohnt.
 
Young Link schrieb:
Also ich arbeite im Vertrieb und viel meines Berufsalltags besteht aus telefonieren und E-Mails schreiben.
Such dir schnell einen neuen Job, oder mach dich selbstständig!
 
  • Gefällt mir
Reaktionen: Antar3s und sioh
@derMutant So schnell wird der Vertrieb nicht sterben. Menschen reden immer noch gerne mit Menschen und das persönliche gespräch verkauft noch immer am besten.
 
Saiba schrieb:
Hat halt jeder mindestens 256GB VRAM zuhause, gell? ;) Und selbst mit soviel VRAM wäre man "nur" mit der Flash und 4-Bit Variante unterwegs.
Wer redet von privatem Gebrauch? Ich sprach von KI im Berufsalltag.
Und ansonsten, Qwen 3.8 Flash Next ist durchaus auch akzeptabel.
Selbst damit habe ich schon größere Refactorings über mehrere Repos gemacht.
 
BOBderBAGGER schrieb:
Daher auch meine Fragen. Bekomm ich von einem kleinen Model gesagt Mehl und das große sagt mir dann welches und wieviel oder ist der Output so nah und die Kosten so hoch das es sich nicht lohnt.
Du kannst dir das bildlich eher so vorstellen, dass bspw. da oben im Rezept dann ne Zutatenliste steht und unten im Text für die Arbeitsschritte wird dann auf einmal eine Zutat verwendet, die oben gar nicht steht. Das würde dir in einem Loop auffallen, wenn das Modell (der Agent/die Software) das Rezept am Ende einmal komplett durch spielen muss/soll. Solche Fehler, dass das Modell Annahmen trifft oder Dinge behauptet, die real aber dann doch nicht sind oder anders sind, passieren häufig(er). Um so schlauer die Modelle und um so mehr reasoning effort man dort drauf schmeißt, desto weniger Fehler passieren.

Je nachdem was du dann am Ende damit anstellst, fallen diese Fehler erst dem Menschen auf. Angefangen hat das halt über die wahrscheinlich von so ziemlich jedem bekannten Chat Prompts von ChatGPT. Du hast ne Frage, du hämmerst die ein, du bekommst ne Antwort. Einmal rein, einmal raus. Kein Loop, keine Prüfung, nur ein Versuch. Entweder es stimmt - oder es stimmt nicht. Ich kenne viele Personen, die aufgrund der dort häufig zu sehenden falschen Dinge eine Grundablehnung ggü. KI aufgebaut wurde.

Heute mit Agentic Arbeiten, Loops und Co steht die Frage zwar auch noch irgendwo am Anfang - vereinfacht gesagt aber lässt du das Modell solange eine Antwort finden, dass es die von dir selbst definierten Ziele verifizieren kann. Am Rezeptbeispiel wäre das bspw., geh das Rezept durch und stelle sicher, dass A) alle Zutaten verbraucht werden und B) dass keine Zutaten auf der Liste fehlen. Über so eine Methode bspw. fällt einem schwächeren Modell oder eine Modell mit weniger Denkaufwand auch auf, dass da was nicht passt. Ein stärkeres Modell hätte so einen Fehler möglicherweise aber gar nicht erst gemacht.

Das ist natürlich alles ultra einfach gesprochen - Koch Rezepte sind selten wirklich komplex. Wenn du aber so ein Modell mal ein paar hundert oder tausend Code Zeilen schreiben lassen willst, macht das schon einen gehörigen Unterschied, ob sich Fehler einschleichen und wie gut diese in der Basis möglichst versucht werden, zu verhindern. Deswegen ist der Trend (wie auch im Artikel genannt), das beste verfügbare Modell den Plan schreiben zu lassen und das simple "machen" dann die schwächeren Arbeiter durchführen zu lassen. Der Plan verzeiht weniger gut Fehler - beim schlussendlichen durchführen aber kann ein guter Plan viele Fehler finden und man kann diese daran gemessen, auch beheben.
 
  • Gefällt mir
Reaktionen: Taikaschi und BOBderBAGGER
BOBderBAGGER schrieb:
@derMutant So schnell wird der Vertrieb nicht sterben. Menschen reden immer noch gerne mit Menschen und das persönliche gespräch verkauft noch immer am besten.
das ändert sich ganz schnell, wenn Chef rausfindet, dass Voice Agents das mittlerweile besser können als Menschen, sogar im Video Call.

Edit:
Du kannst es bereits jetzt nicht mehr unterscheiden bei den neuesten Modellen!
 
@derMutant
Wir haben denke ich eine andere Art vom Vertrieb vor Augen.
Die Leute die mir alle 2 tage Toner am Telefon verkaufen vollen werden sicher schnell hinten runter fallen mein Befestigungsmaterial Liefrerant eher nicht.
 
Zurück
Oben