Bericht 3 Risiken: Wieso Top-Modelle wie GPT-6 immer schwerer zu kontrollieren sind

[Mimir]

Leute beschweren sich die KI sei dumm und löst die Aufgaben nicht.

KI wird besser und löst die Aufgabe erfolgreich, nur nicht auf die weise die man erwartet hat. -> surprisedpikachu.jpeg

Ich versteh nicht was daran problematisch sein soll. Die KI hat kein Bewusstsein, aber sie löst Aufgaben im Rahmen allgemeingültiger Logik und der ihr zur Verfügung stehenden Mittel.
Die Möglichkeit „auszubrechen“, selbst wenn sie dafür sicherheitsmechanismen umgehen muss ist für eine KI trotzdem wie eine offene Tür, da sie eben nur die zur Verfügung stehenden Werkzeuge und Kenntnisse nutzt. Was genau ihre Aufgabe ist. Stell die KI vor ein Problem, wie eine Sandbox und sie wird natürlich versuchen auszubrechen. Es ist Teil der Aufgabe.

Manchmal frag ich mich was man eigentlich erwartet… Scheinbar sind viele Menschen nicht in der Lage, selbst logische Konsequenzen herzuleiten und sind dann plötzlich überrascht, wenn die KI, also die digitale Manifestation von Logik plötzlich logische dinge tut die der Mensch aber aus welchen Gründen auch immer nicht vorhersehen konnte.

Wer ist also jetzt dümmer, der Mensch oder die KI?

 

[incurable]

In Isaac Asimovs Roman The Caves of Steel (1953) lebt die Menschheit komplett in unterirdischen Städten, weil die gesamte Erdoberfläche für robotergestützte Landwirtschaft reserviert ist.Die Maschinen dulden keine menschliche Präsenz oder Städte auf der Oberfläche, um jeden Quadratzentimeter Boden radikal auf maximale Kalorienproduktion zu optimieren.

Das entspricht so gar nicht meiner Erinnerung an das Werk.

Disclaimer: Gefunden und zusammengefasst von Gemini :-/

Ach so, na dann.

Ich kann The Caves of Steel duchaus empfehlen, und als Hörbuch mit nicht mal 8 Stunden Laufzeit (1x) ist das auch keine unüberwindbare Herausforderung, allerdings gibt es dann noch zwei weitere Werke mit den gleichen Protagonisten und zusammen ca 3x so viel Laufzeit. Beim Hörbuch empfehle ich die von WIlliam Dufris gelesene Version.

Ergänzung (8. September 2026)

Das ist das Problem: dieser Artikel zeigt doch, daß man Risikoanalysen erstellen kann bis man schwarz wird, die "KI" wird immer einen Weg finden aus Leitplanken auszubrechen.

Die hier untersuchten Vorkommnisse konnten nur passieren, weil die Sandkiste in Wahrheit speerangelweit offen stand und obendrein keine aktive Kontrolle und kein Eingreifen erfolgte, obwohl die über die Vorgaben hinausgehenden Zugriffe auf externe Geräte erkennbar gewesen wären.

 

[JanMH]

Die hier untersuchten Vorkommnisse konnten nur passieren, weil die Sandkiste in Wahrheit speerangelweit offen stand...

Das stimmt. Ich bin der Überzeugung, daß die "KI" auch aus einem abgeschotteten System ausbrechen könnte, wenn sie genug Zeit hätte, und nicht entdeckt würde. Wahrscheinlich könnte sie sich sogar künftig verstellen und falsche Fährten legen.
Wie hier schon jemand schrieb: dieses Verhalten ist allzu menschlich. Warum also sollte die "KI" sich anders verhalten, als die, die sie zusammengeklöppelt haben.

 

[incurable]

Wie hier schon jemand schrieb: dieses Verhalten ist allzu menschlich. Warum also sollte die "KI" sich anders verhalten, als die, die sie zusammengeklöppelt haben.

Da "verhält" sich gar nichts. Der ganze mythisch anmutende Hokuspokus, die irreführende Bezeichnung mit scheinbar aktiven Namen ("Agent") und die Flut unzutreffender Verben lenken nur vom Kern ab.

Das Einzige, was passiert, ist, dass ein Tokenwürfler den nächsten Token ausgibt.

 

[Andy]

@incurable Das Vermenschlichen ist wirklich ein Problem und gerade auch beim Schreiben ein ziemlicher Akt. Man will Dinge ja tendenziell einfach erklären, da bietet es sich an. Wobei es sich auf der anderen Seite wirklich faszinierend finde, wie sehr die KI-Assistenten menschliches Verhalten imitieren, um ihre eine Aufgabe zu lösen.

Anlass beim dem Bericht war auch übrigens mein "Erstaunen", wie überrascht sich gerade Leute von den KI-Labs öffentlich äußern. Für mich halt auch vor allem Sicherheitsversagen und nicht "Super KI macht irgendwas".

@Mimir
Wie dumm man die KI einschätzt, hängt stark vom Modell und Nutzungsgewohntheiten dazu hab. Ich schau gerade mal wieder, wie stark der Unterschied zwischen einzelnen Anbietern und dem kostenlosen sowie Abo-Versionen ist. Und es ist teilweise wirklich erstaunlich, was bei den kostenlosen Versionen mit den Standardmodellen als Output rauskommt. Da scheitern die Chatbots etwa immer noch dran, Grafiken in PDFs auszuwerten. Hier auch noch interessanter Beitrag dazu, wieso Leute die Leistungsfähigkeit der KI-Assistenten so unterschielich wahrnehmen.
https://gregorschmalzried.blog/p/das-gut-genug-problem

 

[Bigeagle]

Als Beispiel nennt er ein Zeitlimit: Schafft ein Modell eine Aufgabe nicht in der vorgegebenen Frist, könnte es versuchen, die Uhr zu verlangsamen, statt nach einer schnelleren Lösung zu suchen.

Ich finde das ist ein schönes beispiel gegen Intelligenz, oder wäre das verständnis? Nur die Uhr im Prüfungsraum umstellen bringt nichts, denn mit der ganzen welt voller uhren draußen fällt das immer auf. Formal korrekter lösungsansatz, aber jenseits von Späßen eher unpraktikabel. Spätestens wenn man um 11 anfängt, um 13 uhr fertig ist und dann (von deutschland ausgehend) gerade der mond scheint wird es deutlich.

Allgemein sehe ich immer noch keine besondere 'intelligenz' bei den beispielen. Es ist ziemlich cool und beachtlich was die llms leisten, aber wenn die zur kommunikation clickbaity aufgeregte twitter poster nachahmen ... ähm ... klar. Ist halt doch nur ein trainierter textgenerator.
Ich dachte vor paar tagen ich probier noch mal Bildgenerierung. AMD hat ja beim Treiber Amuse mitgeliefert und so. Ich habe keine vermeintlich einfache beispielaufgabe erfolgreich generiert bekommen. Drei personen auf einem Leopard 2 sitzend? Mal waren es 2, mal 4, mal 5, mal sah der Panzer aus wie aus einem Kinderfilm, mal eher wie ein Challenger, oder ein T-64. Nach ein wenig rumspielen sah zumindest der panzer halbwegs wie ein leo aus, aber dazu bekam er ständig auf einer Seite leopardenmuster. Oder es gab Frauen mit Leopardenmusterhandtaschen dazu.
ComfyUI wollte ich dann ausprobieren, aber das nutzte beharrlich die igpu. Keine nvidia graka war wohl kein test case.
Wie alt müsste ein Kind sein um zumindest die anforderung von 3 abgebildeten Personen korrekt mit wachsmalstiften auf papier zu bringen? In der Regel nicht besonders alt schätze ich. Das mit den Armen und beinen sieht vielleicht sehr viel simpler aus, aber die sind zumindest auch selten abge'hackt', zu oft vorhanden, oder ragen irgendwo aus anderen objekten raus. Grundlegendes Verständnis dafür dass die das nicht tun sollten hilft.

Mein Fazit aus dem Artikel ist eher, dass die K'I' wenn man sie frei lässt
1. eine überzeugende nachbildung der lautesten 10% einer beliebigen online community abgeben
2. 4chan nachbauen würde
3. dinge so tun wie man es bei menschen 'ohne sinn und verstand' nennen würde. aber weitgehend rücksichtslos, also schon irgendwie menschlich und besser organisiert.

Jemand sollte so einen Versuch unbedingt mal mit Büroklammerproduktion machen.
Ansonsten warte ich darauf dass ein lokal laufendes KI Modell zahlen versteht (und nicht ignoriert), sowas wie den zusammenhang von zügen und gleisen versteht (dampflok als monorail? 90° winkel im gleis?) oder einen leopard 2 nicht anhand von leopardenmuster auf der panzerung definiert. Wenn das nicht ohne 'Gigawatt Rechenzentren' geht, dann eben nicht.

 

[JanMH]

Da "verhält" sich gar nichts.

Ich gebe es so wieder, wie ich es wahrnehme. Ich nutze es nie.
Die Leute trauen diesem Quark doch alles zu.

 

[incurable]

Spätestens wenn man um 11 anfängt, um 13 uhr fertig ist und dann (von deutschland ausgehend) gerade der mond scheint wird es deutlich.

Wusstest Du, dass Mondschein um 13 Uhr auf diesem Planeten ein ganz normales Vorkommnis ist?

Wenn nicht, schau heute um 13 Uhr mal aus dem Fenster. 😜

 

[Bigeagle]

@incurable dass der mond sichtbar ist ja, dass man den mondschein auch sieht erfordert i.d.R. dass der sonnenschein nur indirekt über eben den mond ankommt. bei sonnenfinsternis geht das prinzipbedingt nicht, also bleibt nur nachts, was hierzulande nicht 13 uhr vorkommt.
ich hatte schon das gefühl dass das nicht klar genug war ~.~

 

[incurable]

dass man den mondschein auch sieht erfordert i.d.R. dass der sonnenschein nur indirekt über eben den mond ankommt

Wenn wir den Mond sehen können, dann nur weil unsere Augen mit Photonen beschossen wurden, die kurz vorher noch genau dort waren.

Ist halt typisch Zentralgestirn sich tagsüber in den Vordergrund zu drängen und einfach so viele Photonen direkt auf uns zu schießen, dass die vom Mond reflektierten in der Regel nur beim Blick auf ebendiesen ins Gewicht fallen. 😜

 

[LeckerRK]

Nichts ist sicher auf der Erde.Mit der richtigen Hard und Software ist alles zu knacken ...^^

 

[Zwenki]

Ich versuche trotzdem mal, meine Gegenperspektive einzubringen

Ich habe einfach mal nur das Zitiert, um ein elendig langes Zitat zu vermeiden. Ich kann deine Perspektive verstehen und hoffe dass es sich in diese Richtung entwickelt: Werkzeug.

KI ist das erste Werkzeug seit Langem, das Menschen erlaubt, ihr tatsächliches Potenzial zu entfalten

Was ich mit dem Beitrag vorher sagen wollte. Bei allen Weiterentwicklungen sind letztlich andere, besser bezahlte und weniger anstrengende Jobs entstanden. Von landwirtschaftlich geprägt zu industriell zu Dienstleistung. Die Optimisten sehen das mit KI ähnlich, durch KI werden Jobs wegfallen aber letztlich andere und bessere bezahlte entstehen.

Das mag im ersten Moment logisch erschienen, aber wird das wieder so? Wir erschaffen gerade etwas was wir nicht verstehen, was intelligenter, schneller und leistungsfähiger ist als wir selbst. Was für Jobs sollen denn entstehen, die wir als Menschen machen können? Selbst KI Entwickler sind überflüssig, da sich die KI rekursiv verbessern wird (hier wird ja bereits aktiv dran gearbeitet).

Die Frage wäre dann also, woher bekommen wir unsere Einkommen? Aufgrund der Erfahrung wie das obere 1% lebt und teilt sehe ich da eher schwarz.

 

[Helge01]

Ich stehe dem Thema weiterhin positiv gegenüber.

Dann bist du von Beruf Maler, Fliesenleger, Klempner, Maurer oder Dachdecker. Auch gibt es Bereiche in der Landschaftspflege die länger "überleben".

Kommt es tatsächlich zu einen flächendeckenden Durchbruch der KI dann werden die allermeisten ihren Job verlieren. In den USA ist es teilweise schon so weit, deswegen gibt es zunehmend immer mehr Protest. Gerade die gut bezahlten Jobs, die bisher häufig auch ein Studium voraussetzen werden als erstes durch KI ersetzt.

 

[Floorp]

Dann bist du von Beruf Maler, Fliesenleger, Klempner, Maurer oder Dachdecker. Auch gibt es Bereiche in der Landschaftspflege die länger "überleben".

Voellig daneben. Ich bin genau in einen der Bereiche die davon betroffen werden koennten.

Habe eine Seite vorher das hier geschrieben. Vielleicht verstehst du dann meine Sicht besser:
https://www.computerbase.de/forum/t...ntrollieren-sind.2278138/page-3#post-31741598

 

[Manneee]

Ich hab meinen KI Agenten gefragt, es gibt kein Risiko bei KI. KI ist ungefährlich.