Bericht Explosion bei KI-Leistung?: Was hinter den Warnungen von Anthropic, OpenAI und Co. steckt

[Andy]

Wie überrascht OpenAI, Anthropic und Co. angesichts der aktuellen KI-Vorfälle wirken, bleibt bemerkenswert. Das Bild von Agentenschwärmen, die vandalierend durch das Netz ziehen, hinterlässt keinen guten Eindruck. Was die Leistungssprünge der Modelle und KI-Risiken bedeuten, erklärt der KI-Forscher Jonas Geiping im Interview.

Zum Bericht: Explosion bei KI-Leistung?: Was hinter den Warnungen von Anthropic, OpenAI und Co. steckt

 

[Der_Picknicker]

Die haben einfach Angst vor den chin. Modellen. Wer neue Player vertreiben will, braucht strenge Marktzugänge. Daher fordern Sie auch strenge Regeln. Wovon die beiden Unternehmen natürlich ausgenommen werden ;-)


Ich bin da klarer Meinung: Der bessere soll gewinnen - egal ob US, EU oder China.

 

[bene91]

@Der_Picknicker Sehe ich ähnlich. Zumal ich es etwas widersprüchlich finde das die Unternehmen nach Regulierung schreien, weil sie sonst die KI Entwickeln, welche die Menschheit auslöschen könnte. Die ersten die sich selber aus Sicherheitsbedenken bremsen und einschränken könnten sind die Unternehmen selbst. Da braucht es keine externen Regulierungen für. Es wird nichts so heiß gegessen, wie es gekocht wird

 

[Fighter1993]

Krass das der Typ fast nie auf die Frage richtig antwortet. Er gibt immer eine schwammige Antwort…
Das Problem bei KI ist der Mensch. Da Sam Altman bei Open AI am Steuer sitzt und kein Gewissen hat und nur $ sehen kann. Wird die AI auch in diese Richtung gehen zumindest die von Open AI.

Sollte man wirklich moralische Bedenken in diese Entwicklung miteinbeziehen wären alle KI Modelle morgen abgeschaltet.

Ergänzung (Samstag um 08:20)

das die Unternehmen nach Regulierung schreien, weil sie sonst die KI Entwickeln, welche die Menschheit auslöschen könnte

Denen geht die Kohle aus. Sie können das Tempo im Jahr 2027 nicht mehr halten. Deshalb rudern die jetzt zurück.

 

[guillome]

Bei den chinesischen AI-Modellen kommen bei mir Erinnerungen an Corona hoch. Keiner wills dann nach dem Knall gewesen sein - obwohl im Falle des Virus offensichtlich Wuhan im Spiel war. Mit KI verwoben in China ist auch das hochaktuelle Thema AI-Robotik, vor allem im Kontext: Ethik, Verantwortung, Sicherheit, Autonomie, etc ...

Ich denke, dass KI-OpenSource-Modelle immer weiter an Beliebtheit gewinnen, weil die US-Tech KI Bubble irgendwann ihre Billionen-Investitionen (Chipkrise lässt grüßen) refinanzieren muss und heute schon die Preisschraube massiv dreht.

 

[lordZ]

Die schwierige Kontrolle von Frontier-Modeallen​

 

[Muntermacher]

Die haben einfach Angst vor den chin. Modellen.

Das Problem ist, sie wissen selber, daß eine Regelung, an die China sich auch hält, sehr schwer aufzubauen ist, wenn überhaupt. Und sie fingen an zu warnen bevor China wirklich anfing bei KI. Deswegen denke ich das nicht. Konkurrenz kleinzuhalten ist aber ein willkommener Nebeneffekt für sie, keine Frage.
Hypothese: sie denken wirklich so, also daß KI gefährlich werden kann. Wenn nur sie langsamer machen, machen andere es aber nicht unbedingt. Die Gefahr bleibt. Es gibt nur die Chance marktdominierend zu sein und sicher. Die Chance ist geringer, aber die einzige, wenn es keine Regulierung gibt. Selbst sie sich Schranken auferlegen, es wird andere geben, die es nicht tun.

 

[bene91]

Krass das der Typ fast nie auf die Frage richtig antwortet. Er gibt immer eine schwammige Antwort…
Das Problem bei KI ist der Mensch. Da Sam Altman bei Open AI am Steuer sitzt und kein Gewissen hat und nur $ sehen kann. Wird die AI auch in diese Richtung gehen zumindest die von Open AI.

Sollte man wirklich moralische Bedenken in diese Entwicklung miteinbeziehen wären alle KI Modelle morgen abgeschaltet.

Ergänzung (Samstag um 08:20)

Denen geht die Kohle aus. Sie können das Tempo im Jahr 2027 nicht mehr halten. Deshalb rudern die jetzt zurück.

Da wird mit Sicherheit auch viel Marketing dabei sein. Erst den Börsengang verschieben um dann wieder Weltuntergangsmarketing zu machen um sich anschließend für den Börsengang in einem positiven Licht darstellen zu können. Schaut her wir sind so gut wir haben unsere gefährliche Super KI wieder eingefangen und unter Kontrolle gebracht.

 

[Weedlord]

Geht doch nur um Geld und Erwartungshaltung. Die brauchen nen grund warums nicht nach vorne geht.

Nutze chat gpt schon seit Jahren als Hilfsmittel zur Informationsbeschaffung was Historische Personen und erreignisse etc angeht und die Ergebnisse die ich bekomme werden nicht besser, sondern sogar schlechter. Selbst die quellen die ich bekomme stimmen oft nicht.

 

[bene91]

Das Problem ist, sie wissen selber, daß eine Regelung,an die China sich auch hält, sehr schwer aufzubauen ist, wenn überhaupt. Und sie fingen an zu warnen bevor China wirklich anfing bei KI. Deswegen denke ich das nicht. Konkurrenz kleinzuhalten ist aber ein willkommenwr Nebeneffekt für sie, keine Frage.
Hypothese: sie denken wirklich so, also daß KI gefährlich werden kann. Wenn nur sie langsamer machenw, machen andere es nicht. Die Gefahr bleibt. Es gibt nur die Chance marktsominierend zu sein und sicher. Die Chance ist geringer, aber die einzige, wenn es keine Regulierung gibt. Selbst sie sich Schranken auferlegen, es wird andere geben, die es nicht tun.

Ich denke das bei ernsthaften Sicherheitsbedenken alle im selben Boot sitzen. Auch China wird kein Interesse an einer selbständigen KI haben die Amok läuft. Vielleicht werden wir in Zukunft etwas ähnliches bei KI sehen wie mit den Abkommen für Atomwaffen.

 

[Neo772™]

Die aktuellen Modelle sind gut darin Aufgaben zu erledigen aber extrem mies darin zu entscheiden wann welche Aufgabe erledigt werden soll. Daher sind wir von AGI noch weit entfernt. Eine echte Intelligenz müsste „frei“ entscheiden können und nicht nur Aufgaben erledigen.

Und die Sicherheitsfrage ist auch easy.
Solange complete the task im Modell härter trainiert ist als der Prompt (der ist sekundär) werden Guardrails im Prompt als sekundär und bei langen Sessions als entbehrlich bzw. eher als Hindernis zur Zielerreichung gesehen =>Welches es zur Zielerreichung zu meistern gilt

 

[ranzassel]

Dieses ganze Geschwurbel von Altman und Co ist doch nur vorgeschoben: Bisher ging es um Marketing („guck mal was unsere KI alles kann“). Damit wird es jetzt langsam eng, wenn die Dinger zu viel Mist machen, will das am Ende ja auch keiner mehr nutzen. Das aktuelle Geschrei hat meiner Meinung nach zwei Ziele: Die potentielle Konkurrenz klein regulieren. Man hat immerhin großen Vorsprung. Und vor allem, die KI jetzt zu einer Art von „Naturgewalt“ zu erklären. Mit dem Ziel das Haftungsrisiko endgültig loszuwerden und auf die Allgemeinheit abzuwälzen.

 

[RushSyks]

@ranzassel ganz wichtiger Punkt. KI Unternehmen wollen für nichts Verantwortung übernehmen, noch weniger als Softwarefirmen jetzt schon. Das dürfen wir nicht durchgehen lassen!

 

[Neo772™]

Vending bench 2

 

[sedot]

Ergänzend ist der Kommentar von tante bei heise lesenswert.
https://www.heise.de/meinung/Kommentar-Ach-die-besorgten-KI-Bros-11452815.html

 

[Der_Picknicker]

Ich glaube einfach, dass alle so langsam erkannt haben, dass die Entwicklung noch lange nicht am Ende ist. Was ich auch sehr begrüße, weil für mich persönlich sind LLMs richtig toll.

Ich wünschte mir ein mind. 30% schlaueres Modell im mathematischen und physikalischen Bereich. Als die aktuellen Modelle: wie Opus, Fable und GPT.

Aber ja: Sicherheit muss besser werden, stell dir mal vor, du hast unrestricted Access auf Modelle, die Biowaffen herstellen können. Das wäre wirklich fatal. Also solche Usecases, müssen mit maximaler Kraft unterbunden werden.

 

[KomputerKarl]

Ich finde eine Plattform wie CB könnte noch deutlicher auf den Marketing Aspekt hinweisen. 🤞
Wenn es die Tagesschau schon nicht hinbekommt.

 

[vander]

Ich frage mich, wie soll man sich das ausbrechen von Agenten praktisch/technisch vorstellen? Durch diese Wortwahl werden doch Bilder ala Matrix assoziiert, die technisch einfach Nonsens sind. Das einzige was ins Netz mal eben ausbricht, sind Anfragen an andere Server.
Das solche Agenten sich mit ihrer Datenbasis und dem entsprechenden Rechenhunger physisch von System zu System bewegen, lächerlich.
Es geht also "nur" darum, die KI Rechenzentren notfalls zügig vom Netz trennen zu können. Nicht so toll für die Betreiber, aber wenn sie ihre Läden nicht unter Kontrolle haben 🤷‍♀️
Falls Tipps dazu gebraucht werden wie man das macht, von Amazon wurden ja erst mehrere AWS vom Netz genommen, die Technik für so eine Notabschaltung wurde also schon länger entwickelt 🤭

 

[VinylUndKoffein]

Anthropic: "AI hat das Potenzial uns alle umzubringen. Wir müssen dringend Wettbewerb und Forschung entschleunigen und anhand gemeinsamer Standards regulieren."

Auch Anthropic: https://www.reuters.com/world/anthr...logy-lab-it-ramps-ai-drug-program-2026-09-18/

Genau mein Humor.

 

[imperialvicar]

Europa sollte schnellstens eine Analoge Alternative für zb. das Gesundheitswesen entwickeln bevor es zu spät ist