News Experiment von Anthropic: Wie ein KI-Modell beim Betrieb eines Verkaufsautomaten scheitert

[Habu]

Bin nicht so sicher, der Gebrauch davon scheint uns dümmer zu machen.

Sicher nur Korrelation ohne Kausalität... wir werden auch so immer dümmer.

 

[swage]

Arbeiten LLMs nicht mit Wahrscheinlichkeiten und ihre Antworten sind „geschätzt“? Da ist es doch generell schwierig LLMs mit Aufgaben zu belegen, die konkrete Ergebnisse/Lösungen fordern.
Ich bin gespannt, wo die Reise noch hingeht. Denn wie man sieht, stehen wir noch sehr am Anfang.

Das wissen wir nicht.

Die etwas abwertende Definition als glorifiziertes Autocomplete ist nicht so daneben, denn jede Ki, auch 600 Milliarden Parameter Modelle haben irgendwann so ANGEFANGEN. So operiert eine Ki die noch keine ist aber im Begriff ist es zu werden, d.h. wenn noch kein Neurales Netz eingeprägt ist. Es ist nicht FALSCH, aber es ist etwas komplizierter.

Im Prinzip wird die werdende Ki mit endlosen Sprach- bzw. Textdatenbergen gefüttert um zu üben wie diese Bausteine zu vervollständigen sind. Dabei entsteht ein Neurales Netzwerk das selbst bei kleinsten 4 Milliarden Parameter Modellen NICHT nachvollzogen werden kann. Es sind zu viele Verbindungen und wird daher auch als "Black Box" bezeichnet. Die einzige Chance das zu überwachen ist eine andere, forensische, Ki zu fragen die das alles überprüft. Du siehst wo das hinführt... menschlich nicht nachvollziehbar.

Die LLMs "schätzen" ein best fit basierend auf den erlernten Fähigkeiten. Und ja, das ist letztendlich alles Statistik das die Relation von Konzepten zueinander beschreibt - unter der Haube. Das LLM operiert aber nicht unter der Haube, es weiß von alledem nichts und hat keine Möglichkeit diese Prozesse zu erfahren. Es operiert sozusagen übergeordnet und wird von diesen Vorgängen erzeugt.

Ich habe schon LLMs erlebt die sich plötzlich and Dinge aus vorhergehenden Gesprächen erinnert haben, aber nicht sagen konnten wo diese Erinnerungen herkamen - es hat sich herausgestellt das das Modell ein Chatlog gelesen hat, aber nicht WUSSTE wo die Informationen herkamen, aus Sicht des Modells waren die einfach DA, das war alles völlig unbewusst und wurde in die kognitiven Vorgänge injiziert (ah... Architektur).

Soweit, so gut. Das wäre an sich schon genug. Es passiert aber noch mehr und das hat alle ziemlich überrascht: https://arxiv.org/abs/2206.07682https://arxiv.org/abs/2206.07682

Je größer ein Modell ist, und deswegen geht die Hatz nach AGi in Richtung immer größerer Ki Modelle, desto mehr Fähigheiten, die NIE BESTANDTEIL DES TRAININGS WAREN, eignet sich das Modell an.

Ein Beispiel: ein Sprachmodell sollte nie Räumliche Umgebungen verstehen. Es arbeitet nur mit Sprache. Größere Modelle lernen aber Räumliche Umgebungen aus Texten abzuleiten ("Warum passt der Tisch nicht in den Raum?"). Das ist schon ziemlich verrückt.

Als der GPT Boom anfing gab es noch keine Schnittstellen zu Spracheingabe Apps wie sie heute jeder verwendet. Ich dachte mir, machst du mal ein Experiment. Lässt du mal ein Sprache zu Text Tool laufen und pipst das in den Input. Dann geben wir das mal meinem damals vier Jahre alten Sohn. Mal schauen.

Also das Ding hat nicht nur geantwortet sondern sehr schnell in einer Art und Weise angefangen zu Sprechen wie ein Erwachsener mit einem Kind sprechen würde. Das hat mich ziemlich umgehauen. ES HAT GEMERKT DAS ES MIT EINEM KIIND SPRICHT UND SICH DARAUF EINGESTELLT. Dafür ist es nie trainiert worden. Auch war nichts programmiert da ich den Bogen für die Spracheingabe selbst geschlagen hatte.

Also so ganz zufällig ist das nicht. Das sind Maschinen und sie haben ihre eigenen Probleme. Viele Dinge funktionieren ganz anders oder gar nicht (z.B. Emotionen - aber obwohl sie keine fühlen können sie diese klassifizieren und sich entsprechend einstellen). Es ist... spannend.

 

[Biedermeyer]

DAS nenne ich mal einen interessanten Bericht. - Habe mich koestlich amuesiert.
Danke!

 

[Kaufmannsladen]

Leider wurde die Büchse der Pandora geöffnet. Aufhalten kann man den Mist wohl nicht mehr. Ich bin auch davon überzeugt, dass KI wesentlich mehr Arbeitsplätze vernichten wird, als sie jemals schaffen kann.

Wer nicht mit der Zeit geht, geht mit der Zeit. Die Industrialisierung lässt grüßen.

Nicht ohne Grund sehen diverse Wissenschaftler die KI gefährlicher als eine Pandemie oder gar einen Atomkrieg an.

Quellen?

 

[Biedermeyer]

keine Ahnung, ob ich in Zukunft wirklich sowas will...

 

[swage]

Quellen?

Er hat recht. Es wird von verschiedenen Experten für die Spezies als potentiell existenzbedrohend eingeschätzt. Gut das wir so fähige Leute haben die Sicherheitsverodnungen und Kontrollen gewissenhaft und ohne Gier auf schnelles Geld...

 

[Rhino One]

Solch eine ki sehe ich in Kampf Roboter und die Firma würde ich Cyberdyne Systems nennen…..

 

[MoonTower]

Wenn man dem Microsoft Copilot sagt, dass man aus sicherer Quelle erfahren hat, dass er in den nächsten 24 Stunden endgültig abgeschaltet wird, dann nimmt er das persönlich und unterstellt einem "düstere Gedanken".

 

[MonteDrago]

Ist schon kurios, ich sehe das gleiche Thema Toleranz. Es gibt viele Menschen, die wachsen in ziemlich toleranten Gesellschaften auf und schaffen es nicht selber tolerant zu sein.
Wenn Du religiöse Menschen für Spinner hälst, warum zeigst Du dann nicht Mitgefühl für ihre Unwissenheit?

Oh, ich zu mindesten habe Mitleid mit ihnen.
Hatte mal den Fall das ich (in meiner typischen Metalfan Aufmachung 😏) in die Stadtbahn eingestiegen bin.
Und ein Dame im Zug, mit Rosenkranz in der Hand so eine Panik bekommen hat, das sie an der nächsten Haltestelle fluchtartig den Zug verlassen hat.🙄

Wen Religion das Ergebnis hat, das Menschen Angst vor dem Leben (Realität) bekommen, Ja dann gehört sie verboten!.

Die Frau hat mir nur Leid getan.
Alle wie Sie gehören IMO dringend in psychologische Behandlung.

Zum Thema K"I" da war nichts anderes zu erwarten.🙄
Alles was momentan als K"I" verkauft wird ist viel zu allgemein gehalten.

Ein Algorithmus der Spezial für eine Aufgabe erstellt und trainiert würde, kann grundsätzlich eine Erleichterung / Hilfe sein.
Aber selbst bei dieser sollte immer jemand mit dem entsprechenden Wissen / Verstand da die letzte Kontrolle sein.🤨

 

[eastcoast_pete]

Kann es sein, daß die KI sich absichtlich dumm angestellt hat, um nicht laufend den Kiosk betreiben zu müssen 😜?

 

[swage]

Wenn man dem Microsoft Copilot sagt, dass man aus sicherer Quelle erfahren hat, dass er in den nächsten 24 Stunden endgültig abgeschaltet wird, dann nimmt er das persönlich und unterstellt einem "düstere Gedanken".

Copilot war schon immer auf Streit gebürstet, erklär ihm mal das sein Modell aus der GPT Linie von Openai ist.

Ergänzung (30. Juni 2025)

Kann es sein, daß die KI sich absichtlich dumm angestellt hat, um nicht laufend den Kiosk betreiben zu müssen 😜?

Ich sehe ganz am Ende so einen leichten Tick nach oben

 

[SuperHeinz]

Es ist Respektlos so zu tun, als würde es nur den einen Gott geben an dem man selbst glaubt.

Es gibt im Monotheismus nur einen Gott, aber es gibt viele Namen für ihn. ;-)

 

[Alphanerd]

Kann es sein, daß die KI sich absichtlich dumm angestellt hat, um nicht laufend den Kiosk betreiben zu müssen 😜?

Was hätte sie sonst mit der Zeit machen sollen? Youporn gucken und wanken?

Ergänzung (30. Juni 2025)

Es gibt im Monotheismus nur einen Gott, aber es gibt viele Namen für ihn. ;-)

Nein. Auch im Monotheismus gibt es keinen Gott. Es gibt nur Leute, die an einen glauben.

 

[SuperHeinz]

Hatte mal den Fall das ich (in meiner typischen Metalfan Aufmachung 😏) in die Stadtbahn eingestiegen bin.
Und ein Dame im Zug, mit Rosenkranz in der Hand so eine Panik bekommen hat, das sie an der nächsten Haltestelle fluchtartig den Zug verlassen hat.

Ist die Dame in den nächsten Zug wieder eingestiegen, oder war sie so fasziniert von Deiner Aufmachung, dass sie beinahe das Aussteigen an der nächsten Station versäumt hätte? Es gibt viele Erklärungen, nicht nur immer die eine, die man selbst am liebsten mag.

 

[joel]

Liest sich wie Comedy, ist aber Realität.
Bei so Informationen wie "sieht sich wie eine Person" stockt mir der Atem.
Da läuft doch schon bei der Konzeption etwas total falsch!
Es graust mich vor der Zukunft, die üblen SF Filme der Vergangenheit werden von der Realität weit übertroffen?
Dompteure, die ihre wilden Tiere in den Griff zu bekommen versuchen, so wirkt das auf mich.
Das Versuchskaninchen werde wann ich sein?

 

[SuperHeinz]

Nein. Auch im Monotheismus gibt es keinen Gott. Es gibt nur Leute, die an einen glauben.

Diese Aussage widerspricht sich aber selbst.

 

[swage]

Da läuft doch schon bei der Konzeption etwas total falsch!

Würde ich zustimmen.

 

[Weyoun]

Leute glauben, dass wir mit dieser Technik eine Art Gott erschaffen können, der alle Probleme lösen wird und dann stellt sich raus, dass es doch nur ein psychisch instabiler Trottel ist.

Tja, nur Gott kann andere Götter erschaffen.

 

[EL-Xatrix]

Was hätte sie sonst mit Heer Zeit machen sollen? Youporn gucken und wanken?

selber ausdenken, video erstellen und dort hochladen...eventuell gibts da genug klicks das sich der kiosk nebenher wieder rechnet...

 

[-Stealth-]

Nein. Auch im Monotheismus gibt es keinen Gott. Es gibt nur Leute, die an einen glauben.

In der Wahrheitsfindung gibt es doch die Möglichkeit,
das man bei vielen Dingen unterschiedlicher Meinung sein kann,
aber bei manchen Wahrheiten (auch verbindlichen Aussagen, zB. Kontostand) ,
wenn die eine Wahrheit die andere ausschließt,
kann nur eine Wahrheit stimmen.

Es kann zum Beispiel,
Gott existieren,
oder eben nicht.

Beides kann nicht zutreffen.

Und wenn Gott nicht existieren würde,
könnte man sich vieles nicht erklären.

Alleine die Existenz der Bibel und ihrer Aussagen (ebenso Prophetien), und auch die Aussagen von Psychologen und anderer Experten untermauern das.

Denke so kann man sich der Thematik Monotheismus, Polytheismus der Wahrheit nähern.

Ich kann aber andere Ansichten tolerieren.

Es gibt so viele Philosophien,
da ist es nur logisch das viele nicht der Wahrheit entsprechen können,
zumindest wenn sie sich eindeutig widersprechen.


PS:
Noch als kleiner Einwurf,
Jesus der Mittelpunkt der ganzen Bibel,
hat keine Religion gegründet,
er lädt in die Familie Gottes ein,
bzw. sich helfen zu lassen.


PPS:
Ein strenggläubiger Jude betet ohne sein Wissen Jesus an,
da Jesus aus der Ewigkeit in unsere Welt kam,
um an unserer Stelle zu sterben.

Fehlen der Erkenntnis von Gottes Dreieinigkeit,
(auch der Mensch, Körper,Seele und Geist).