Bericht Explosion bei KI-Leistung?: Was hinter den Warnungen von Anthropic, OpenAI und Co. steckt

[Relak]

es ist nicht meine Aufgabe hier in einem IT Forum über Politik zu schreiben

Hier geht es nicht stumpf um Politik sondern darum dass sich 2 Supermächte gegenseitig den Schädel einschlagen könnten weil eine KI bullshit labert. Wenn militärische Entscheidungen auf Basis von herbei fantasierten Fakten getroffen werden, kann das Böse für uns alle enden.

Aber wenn du meinst dass sowas nicht gefährlich sein kann... bitteschön

 

[Xood]

So ziemlich alle mir bekannten Prognosen erwarten einen höheren Energie und oder Ressourcen Bedarf bis 2030.
....
Mir fehlen bei deiner Aussage Daten und Fakten.

Welche Gruselgeschichten? KI hat einen negativen Impact in vielen Bereichen.

Du hast mich gefragt, so habe ich es zumindest verstanden, was ich am Kommentar bei heise.de empfand um zu schreiben das ich die Qualität nicht gut finde. Das war dann meine Antwort, und dort stand tatsächlich ein Abschnitt mit Gruselgeschichten drin. :-)
Zitat: "Also lenkt man die Öffentlichkeit mit scheinbar plausiblen Gruselgeschichten ab"

Daten und Fakten zur Verbesserung von KI Modellen (Leistung/Energie) findet man zahlreiche. Und wie gesagt, das geht über Benchmarks hinaus wenn man seine persönliche Erfahrung zusätzlich hat.

Jedoch widerspricht dem nicht das der Bedarf an Energie und Ressourcen in dem Bereich bis 2030 steigt.
Würden wir den aktuellen Stand der Dinge einfrieren und KI Modelle werden stärker genutzt, alleine das benötigt dann mehr Energie und Ressourcen.
Jedoch frieren wir nichts ein und es kann und wir sich bis dahin so ziemlich alles verändern/verbessern. Wie viele Ressourcen dann und warum verbraucht werden, werden wir in 3 1/2 Jahren sehen und können dann gerne nochmal schreiben und resume ziehen.

Werden Modelle weiterhin kompakter, die Hardware und Software effizienter, dann können wir in 2030 vergleichbar "Intelligenz" mit einem Bruchteil der Ressourcen von heute bereitstellen.

 

[Biedermeyer]

Krass das der Typ fast nie auf die Frage richtig antwortet. Er gibt immer eine schwammige Antwort…

Ich fand, er antwortete des oefteren klar & deutlich:
'das ist eine schwierige Frage' mit gelegentlichen Zusaetzen von 'eigentlich'...

Uebrigens vielen Dank an CB - top vorbereitet!

 

[wGuardian]

Zuerst einmal vielen Dank für das interessante Interview!

Ich habe jetzt noch stärker den Eindruck, dass überhaupt nicht klar ist, wie hoch das Risiko derzeit ist und zukünftig sein wird. „Das sehen wir dann, wenn es soweit ist“ und wir machen trotzdem weiter, macht mich irgendwie fassungslos.

Ich hätte mir noch kritischere Fragen gewünscht:
Wo stehen wir heute tatsächlich? Wie autonom können Frontier-Modelle bereits handeln? Wie oft umgehen sie Sicherheitsmechanismen? Können wir erkennen, wenn ein Modell problematisches Verhalten bewusst versteckt? Und wie zuverlässig ist das Monitoring überhaupt?

Vor allem hätte ich gerne eine klare Trennung zwischen „kann heute nachweislich passieren“, „könnte mit heutigen Agenten passieren“ und „ist derzeit reine Zukunftsspekulation“.

Denn die entscheidende Frage ist für mich nicht nur: „Kann KI irgendwann außer Kontrolle geraten?“, sondern: „Wie viel Kontrolle haben wir über die heutigen Systeme tatsächlich?“

Außerhalb der derzeitigen Kontrollinstanz kommt dann irgendwann:
„Was passiert, wenn leistungsfähige Modelle als Open-Weight-Modelle verfügbar werden?“ - Dann kann man nicht einfach das Modell stoppen, sondern - huch - das Modell läuft lokal auf 1.000.000.. Maschinen.

Das Interview ist als technischer Einblick für Laien gut, aber als Lagebild zur tatsächlichen Gefahr für mich unvollständig. Denn das wäre meine Schlussfrage: „Wie unterscheiden Sie dann zwischen einem tatsächlich sicheren Modell und einem Modell, das lediglich gelernt hat, sicher zu erscheinen?“ - „I can‘t do that, Dave!“

 

[Mirlo]

„Wie unterscheiden Sie dann zwischen einem tatsächlich sicheren Modell und einem Modell, das lediglich gelernt hat, sicher zu erscheinen?“

Beispiel: https://www.computerbase.de/forum/threads/was-machen-mit-ki.2277996/

 

[Kaulin]

Ich hätte mir noch kritischere Fragen gewünsch

Es wurde beantwortet. Man hat keine Ahnung.

 

[sedot]

Wie viele Ressourcen dann und warum verbraucht werden, werden wir in 3 1/2 Jahren sehen und können dann gerne nochmal schreiben und resume ziehen.

Ja, definitiv. Ich bin im Moment skeptisch wenn ich die Entwicklungen mit etwas Abstand beobachte. Nicht unbedingt weil ich „KI“ als nützliches Tool ablehne, sondern eher wegen der gesamtgesellschaftlichen Auswirkungen bisher.

 

[Mondgesang]

Und diese KIs dringen langsam in alle Lebensbereiche vor.

Die K"I" dringt nirgendwohin vor. Das Zeug wird einfach wie Malware mit jedem Müll und Mist mit ausgeliefert und sowohl von den Unwissenden unwissentlich als auch von den Möchtegern-Fortschrittlichen mit Kusshand empfangen.

 

[Andy]

@wGuardian

Dass man in der Branche nicht genau weiß, wie sich steigende Modellleistung auswirkt, fand ich auch einen der spannendsten Punkte im Interview. Ist halt auch interessant mit Blick auf Prognosen für all die Bereiche, die KI ersetzen soll: Die ehrliche Antwort ist scheint etwas wie "Schaun wir mal" zu sein, was für ein BIllionen-Dollar-Business wild ist.

Deswegen fand ich die AGI-Antwort im übrigen auch erfrischend ehrlich: Wir wissen es nicht. Denn in den 2010er Jahren wurde ja bspw noch viel über den Turing-Test geschrieben. Wenn der erreicht ist, haben wir eine Superintelligenz. Der wurde jetzt schon geschafft, AGI ist trotzdem nicht da.

Zum Marketing-Vorwurf, der hier ja von vielen eingebracht wird:
Ich seh das Argument total und es wirkt auch wild, dass jetzt zB Google auch noch seinen Gemini-Ausbruch hat. Was man aber gerade bei Initativen wie Pacing the Fronier bedenken muss: Leute wie Dario Amodei erzählen das seit praktisch zehn Jahren, ich selbst habe ja auch vor drei Jahren schon ein Interview dazu geführt. Erstaunlich ist eher, dass es auf einmal massenmedial so verfängt.

Den Tante-Kommentar halte ich daher für verfehlt: Für mich ist das weder kalkuliertes Marketing, noch ist da irgendjemand besorgt, dass die Modelle nicht leistungsfähiger werden (auch übrigens so ein Punkt aus den Ed-Zitrone-AI-Kritikern-Kreisen, der seit Jahren nicht eintritt...). Treffend finde ich, was Eva Wolfangel dazu sagt: Zu dem "KI tötet uns alle" schreibt sie auf Linkedin:

Ich verstehe, wieso dieses Thema so einen breiten Raum einnimmt, aber ich bin wütend, dass es so weit gekommen ist. Nicht weil ich denke, dass KI uns alle töten wird, sondern weil ich es unverantwortlich finde, wie KI-Unternehmen die Angst der Menschen ausnutzen, um von den eigenen miserablen Sicherheitspraxis abzulenken. Sie verbreiten die Erzählung von den ausgebrochenen KI-Agenten, um zu verschleiern, dass sie selbst - die Menschen - grundlegende Prinzipien der Cybersicherheit ignoriert und noch dazu weggeschaut haben, als klar wurde, dass das schief gehen kann.

Lassen wir mal den KI-Wahnsinn bei Seite und betrachten OpenAI und Co als normale Software-Unternehmen: Dann haben die es bei der Sicherheit massiv verkackt, weil die Absicherung der Testumgebungen im Prinzip eine Geldfrage war. Die Sicherheitsfragen halte ich daher auch für das relevante Thema in der nächsten Zeit.

 

[dienst]

Vielen Dank für das Interview. Sehr interessant.

 

[Weyoun]

Ich bin da klarer Meinung: Der bessere soll gewinnen - egal ob US, EU oder China.

Das bessere Modell soll die Menschheit ausrotten...

 

[Der_Picknicker]

bessere Modell soll die Menschheit ausrotten.

Aufs Marketing reingefallen?

 

[Weyoun]

Ich falle schon lange nicht mehr auf Marketings herein...

 

[Alexander 65]

Der größte Gag ist immer die Vorbestellung,
da wird ein Artikel angeboten, den man
genau zu einem bestimmten Tag braucht!
Und danach ist nur noch ne bestimmte
Farbe erhältlich.
Also kaufen, kaufen und nochmals kaufen!
Wenn die 4900 DM von der Kreditanstalt
kommen, is dass auch völlig egal!
Wahnsinn!