News Wegen Performance-Problemen: Google soll Verschiebung von Gemini 3.5 Pro planen
(Du hast ja Recht.) 
ThirdLife
Commodore
- Registriert
- Aug. 2019
- Beiträge
- 4.124
Witzig, dass du jetzt Gemma nennst. 😂 Während Gemma stark war bei Release sind die jetzt schon teilweise ziemlich abgemeldet ggü. anderen, neueren Modellen zumindest für Code / Analyse / Architektur.AAS schrieb:
Das hingegen sehe ich auch so. Google steckt hinter brutal vielen Technologien im Backend. Und hat ein stabiles Einkommen, ist ein profitables Unternehmen. OpenAI und Anthropic sind davon weit entfernt.AAS schrieb:
Google kann Forschung aus Einnahmen bezahlen, die Anderen müssen jedes Quartal eine Runde betteln gehen und hoffen dass der Geldfluss nicht versiegt. Ich seh daher Google am stabilsten aufgestellt, auch wenn man jetzt aktuell einen gewissen Rückstand hat.
eastcoast_pete
Commander
- Registriert
- Juni 2020
- Beiträge
- 2.620
Wenn der genannte Grund (Gemini 3.5 nicht so der Bringer beim Code Erstellen) tatsächlich der Grund war, warum Google Gemini nochmal in die Warteschleife schickte, wäre der auch allgemein interessant: Ist jetzt Kodieren die praktisch einzige Messlatte für (kommerzielle) große KI Modelle? Macht zunächst zwar Sinn (man spart sich/denkt man spart sich Programmierer Arbeitsstunden), verengt aber auch die Perspektive, auf die diese Modelle hin entwickelt werden.
Wenn sich hier jemand damit gut auskennt: was bleibt denn so auf der Strecke, wenn Claude, OpenAIs Sol und Googles Gemini alle auf "Code schreiben" hin optimiert werden oder schon sind? Ich dachte bis jetzt, daß "große Modelle" eher Generalisten sein sollen, und daraus abgeleitete Modelle/Distills dann für bestimmte Aufgaben wie Codieren optimiert werden.
Wenn sich hier jemand damit gut auskennt: was bleibt denn so auf der Strecke, wenn Claude, OpenAIs Sol und Googles Gemini alle auf "Code schreiben" hin optimiert werden oder schon sind? Ich dachte bis jetzt, daß "große Modelle" eher Generalisten sein sollen, und daraus abgeleitete Modelle/Distills dann für bestimmte Aufgaben wie Codieren optimiert werden.
ThirdLife
Commodore
- Registriert
- Aug. 2019
- Beiträge
- 4.124
@eastcoast_pete Der eigentliche Hebel ist heute RL-Finetuning nach dem Pretraining, und da fliesst der Grossteil des Aufwands dorthin, wo sich Erfolg hart verifizieren lässt: Code kompiliert oder nicht, Tests laufen durch oder nicht.
Ein größeres Netz kann zwar helfen, Interferenz zwischen Fähigkeiten zu reduzieren ist aber nicht alles. Es gibt unter Anderem auch Evidenz (und einige Labs sagen das offen), dass Code-Training generell Reasoning verbessert - strukturiertes, schrittweises Denken überträgt sich auf Mathe, Logikrätsel, sogar manche Weltwissen-Aufgaben. Das macht Coding-lastiges Training doppelt attraktiv: gut fürs Marketing UND scheinbar gut für "Intelligenz" allgemein.
Was auf der Strecke bleibt:
- Stilgefühl und Stimme bei langem Schreiben. Erzählerische Kohärenz, Humor, Rhythmus, das Gespür dafür, wann eine Antwort kürzer besser ist als vollständiger - das lässt sich schlecht in einen Reward umrechnen wie "Unit-Test grün".
- Kalibrierung bei nicht-verifizierbaren Fragen. Ein Modell, das ständig in "richtig/falsch, Test läuft durch/läuft nicht durch"-Umgebungen trainiert wird, entwickelt leicht einen Reflex zu selbstsicheren, abgeschlossenen Antworten. Bei echten Ermessensfragen (Ethik, Politik, Geschmack, offene wissenschaftliche Debatten) ist Unsicherheit aber oft die ehrlichere Antwort - und dieser Reflex kann dem im Weg stehen.
- Coding-Aufgaben sind fast immer scharf spezifiziert (Input/Output, Tests). Menschliche Anliegen sind es oft nicht ("hilf mir, diesen Konflikt mit meinem Kollegen zu lösen"). Ein Modell, das primär auf klar spezifizierte Aufgaben trainiert ist, tendiert dazu, Ambiguität wegzuinterpretieren statt sie auszuhalten.
- Persönlichkeit/Ton verwässert halt. Der "Ticket abarbeiten"-Stil (knapp, listenlastig, lösungsorientiert) kann in Alltagsgespräche durchsickern, wo eigentlich mehr Wärme oder Umständlichkeit angemessen wäre.
- Nicht-STEM-Fachtiefe wie rechtliche, geisteswissenschaftliche, kunstkritische oder medizinisch-nuancierte Urteilsfähigkeit bekommt nur dann vergleichbare RL-Aufmerksamkeit, wenn es dafür ähnlich verifizierbare Evals gibt (zB Medizin-Lizenzprüfungen) - für die meisten geisteswissenschaftlichen Domänen gibt es das schlicht nicht (oder halt nicht in der gleichen Dichte).
- Coding-Benchmarks sind überwiegend implizit englischsprachig gedacht. Ein Trainingsfokus darauf zieht Ressourcen tendenziell von der Feinabstimmung in anderen Sprachen/Kulturkreisen ab.
- Ein Modell, das stark auf agentisches Tool-Use trainiert ist, neigt dazu, für alles ein Skript zu schreiben oder eine Suche auszuführen, auch wo direktes Nachdenken oder ein einfaches Gespräch besser wäre.
Es ist aber nicht zwangsläufig ein Nullsummenspiel. Manche Fähigkeiten (strukturiertes Denken, Fehlersuche, Geduld bei mehrstufigen Aufgaben) profitieren tatsächlich vom Coding-Training und strahlen positiv auf andere Bereiche ab.
Ein größeres Netz kann zwar helfen, Interferenz zwischen Fähigkeiten zu reduzieren ist aber nicht alles. Es gibt unter Anderem auch Evidenz (und einige Labs sagen das offen), dass Code-Training generell Reasoning verbessert - strukturiertes, schrittweises Denken überträgt sich auf Mathe, Logikrätsel, sogar manche Weltwissen-Aufgaben. Das macht Coding-lastiges Training doppelt attraktiv: gut fürs Marketing UND scheinbar gut für "Intelligenz" allgemein.
Was auf der Strecke bleibt:
- Stilgefühl und Stimme bei langem Schreiben. Erzählerische Kohärenz, Humor, Rhythmus, das Gespür dafür, wann eine Antwort kürzer besser ist als vollständiger - das lässt sich schlecht in einen Reward umrechnen wie "Unit-Test grün".
- Kalibrierung bei nicht-verifizierbaren Fragen. Ein Modell, das ständig in "richtig/falsch, Test läuft durch/läuft nicht durch"-Umgebungen trainiert wird, entwickelt leicht einen Reflex zu selbstsicheren, abgeschlossenen Antworten. Bei echten Ermessensfragen (Ethik, Politik, Geschmack, offene wissenschaftliche Debatten) ist Unsicherheit aber oft die ehrlichere Antwort - und dieser Reflex kann dem im Weg stehen.
- Coding-Aufgaben sind fast immer scharf spezifiziert (Input/Output, Tests). Menschliche Anliegen sind es oft nicht ("hilf mir, diesen Konflikt mit meinem Kollegen zu lösen"). Ein Modell, das primär auf klar spezifizierte Aufgaben trainiert ist, tendiert dazu, Ambiguität wegzuinterpretieren statt sie auszuhalten.
- Persönlichkeit/Ton verwässert halt. Der "Ticket abarbeiten"-Stil (knapp, listenlastig, lösungsorientiert) kann in Alltagsgespräche durchsickern, wo eigentlich mehr Wärme oder Umständlichkeit angemessen wäre.
- Nicht-STEM-Fachtiefe wie rechtliche, geisteswissenschaftliche, kunstkritische oder medizinisch-nuancierte Urteilsfähigkeit bekommt nur dann vergleichbare RL-Aufmerksamkeit, wenn es dafür ähnlich verifizierbare Evals gibt (zB Medizin-Lizenzprüfungen) - für die meisten geisteswissenschaftlichen Domänen gibt es das schlicht nicht (oder halt nicht in der gleichen Dichte).
- Coding-Benchmarks sind überwiegend implizit englischsprachig gedacht. Ein Trainingsfokus darauf zieht Ressourcen tendenziell von der Feinabstimmung in anderen Sprachen/Kulturkreisen ab.
- Ein Modell, das stark auf agentisches Tool-Use trainiert ist, neigt dazu, für alles ein Skript zu schreiben oder eine Suche auszuführen, auch wo direktes Nachdenken oder ein einfaches Gespräch besser wäre.
Es ist aber nicht zwangsläufig ein Nullsummenspiel. Manche Fähigkeiten (strukturiertes Denken, Fehlersuche, Geduld bei mehrstufigen Aufgaben) profitieren tatsächlich vom Coding-Training und strahlen positiv auf andere Bereiche ab.
Minthera
Ensign
- Registriert
- März 2026
- Beiträge
- 142
Neben Microsoft und vielleicht noch Meta ist Google das einzige Unternehmen, was seine KI-Pläne auch „selbst“ finanzieren kann. Alle anderen Firmen können noch so viel bessere LLM / KI haben, sie haben keine echten Geschäftsmodelle und das ist ihr eigentliches Problem. Die Wirtschaftlichkeit steht bei LLM/KI also überall in Frage, nicht erst wenn irgendein Modell ins Hintertreffen gerät.
Außerdem geht es hier nur um Coding. Das ist offenbar für Einige hier ein ganz wichtiger Teil oder vielleicht der wichtigste Teil dieser LLMs, aber bei weitem nicht alles was für Jeden im Alltag wichtig ist.
Für mich war / ist Deep Research von Gemini der entscheidende Grund, Gemini zu nutzen. Das Coding ist für mich beispielsweise ein Nebenaspekt.
- Registriert
- Jan. 2013
- Beiträge
- 474
Ich nutze Gemini vor allem, um zu lernen, mich auf Prüfungen vorzubereiten oder Sachen für eine Diplomarbeit oder Ähnliches zu recherchieren. Dafür ist Gemini toll, wie eine Art Lehrer mit simuliertem Unterricht und Prüfungssimulation.
Das Einzige, was mir auffiel, ist, dass Gemini jeweils am Feierabend überlastet zu sein scheint, aber das ist nur meine subjektive Wahrnehmung, vielleicht liegt es auch an mir.
Ich finde auch, dass, nur weil Gemini jetzt vielleicht "zurückfällt", weil eine neue Version noch nicht veröffentlicht wurde, das ja nicht heißt, dass sie nicht mehr aufholen können. Ich finde, Google macht das schon gut.
Das Einzige, was mir auffiel, ist, dass Gemini jeweils am Feierabend überlastet zu sein scheint, aber das ist nur meine subjektive Wahrnehmung, vielleicht liegt es auch an mir.
Ich finde auch, dass, nur weil Gemini jetzt vielleicht "zurückfällt", weil eine neue Version noch nicht veröffentlicht wurde, das ja nicht heißt, dass sie nicht mehr aufholen können. Ich finde, Google macht das schon gut.