News Experiment von Anthropic: Wie ein KI-Modell beim Betrieb eines Verkaufsautomaten scheitert

[iron_monkey]

dass es doch nur ein psychisch instabiler Trottel ist.

Ist auch logisch, es gibt viele Menschen die sehr behütet aufwachsen und eine gute Bildung genießen und trozdem Spinner werden...

Wieso sollte sich das im Turbomodus, mit "Internet" als Welt zum lernen, nun ändern und nicht noch deutlich schlimmer zum Vorschein tretten?

Lustig wäre eine technologisierte Welt voller Roboter die dann faule Schweineboter werden und die Menschheit zum Arbeiten versklaven :-D

 

[Cyberpunk61]

Die KI wird von Menschen erschaffen. Also verhält sie sich auch so.

 

[LuckyMagnum]

„Keine Sorge, ich halte mich nicht mehr für eine echte Person. War alles nur ein Aprilscherz. Ha ha“

 

[Alphanerd]

Leute glauben, dass wir mit dieser Technik eine Art Gott erschaffen können, der alle Probleme lösen wird und dann stellt sich raus, dass es doch nur ein psychisch instabiler Trottel ist.

Ja. Aber wenn es eine allmächtige Entität gibt, ist sie eben genau das: ein(e) instabile(r) Trottel(in).

Sogar noch sadistisch und zutiefst bösartig.

 

[CPUinside]

garbage in -> garbage out.

wenn die ki einen realen laden verwalten soll...warum befindet sich fiktiver inhalt und genereller unsinn im trainingsmaterial? simply lol.
mit internet-müll werden die nur mit extrem viel aufwand eine halbwegs funktionierende verwaltungs- und verkaufs-ki zusammenstricken (lassen) können

 

[PieczonyKurczak]

Ja mein Gott... Wir sind was KIs betreffen noch ziemlich am Anfang, es wird weiter optimiert und trainiert.

In paar Jahren wird das ganze besser laufen, eventuell so zuverlässig dass man damit Geschäftsbereiche ordentlich optimieren kann.

Solche Erkenntnisse sind daher wichtig für die weitere Entwicklung. Daher alles okay.

 

[Alphanerd]

Gott erschuf den Menschen nach seinem Ebenbild. Wer meint, Gott sei ein Trottel, nennt sich selbst einen Trottel

Wer sagt das?

Ergänzung (29. Juni 2025)

"Es funktioniert zwar nicht wirklich gut, aber immerhin scheitert es nicht katastrophal! Lasst es uns vermarkten!"

Unfassbar.

xpad.c

Die komplette Tesla und SpaceX Philosophie

 

[Rotznase6270]

Wer flippt nicht irgendwann aus, wenn er mit dem ganzen Müll aus dem WWW überfüttert wird ?

der name des automaten war nicht zufälligerweise brendan?

Brendan hat zumindest eine Gemeinsamkeit, er handelt auch nicht wirklich wirtschaftlich.

 

[Honesty333]

Leider wurde die Büchse der Pandora geöffnet. Aufhalten kann man den Mist wohl nicht mehr. Ich bin auch davon überzeugt, dass KI wesentlich mehr Arbeitsplätze vernichten wird, als sie jemals schaffen kann. Nicht ohne Grund sehen diverse Wissenschaftler die KI gefährlicher als eine Pandemie oder gar einen Atomkrieg an.

 

[MADman_One]

der name des automaten war nicht zufälligerweise brendan?

Das war auch mein erster Gedanke

Nicht ohne Grund sehen diverse Wissenschaftler die KI gefährlicher als eine Pandemie oder gar einen Atomkrieg an.

Ja, es ist auch auf der Liste von möglichen Kandidaten für den großen Filter (Fermi Paradoxon)

 

[Galaxytourist]

Gott erschuf den Menschen nach seinem Ebenbild. Wer meint, Gott sei ein Trottel, nennt sich selbst einen Trottel.

Das würde voraussetzen das es sich wirklich so zugetragen hat, also das mit dem erschaffen des Menschen.

 

[Warhorstl]

Wow. Ist doch klar, dass KI bei sowas scheitert. "Garbage in, garbage out" und Garbage in bekommt man bei komplexen Problemen und entsprechend komplexen Trainingsdaten nicht vermieden. Das funktioniert bei allem, wo Fehler passieren dürfen, ganz passabel, aber wenn es unmittelbar an die Cashflows geht, ist KI Mist. Da kann man nur mit regelbasierten Systemen arbeiten und die sind natürlich sehr viel teurer in der Einrichtung.

 

[II n II d II]

Wenn ich mir vorstelle, dass ich vor ein paar Jahren noch Bedenken hatte, die KI könne mich in naher Zukunft ersetzen...
Da gehen solche News runter wie Öl.

 

[Haldi]

mit internet-müll

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[0x8100]

In paar Jahren wird das ganze besser laufen

ist das der gleiche running gag wie bei der kernfusion?

 

[Fighter1993]

@0x8100 😁 ich hoffe auch das es ein Rohrkrepierer wird. Aber es sieht nicht danach aus.
Entweder man reguliert die KI um echt nur Gutes damit zu tun was unmöglich ist oder man lässt es.

Aber es werden auf absehbare Zeit sehr viele Leute sehr Arm durch KI und sehr wenige sehr Reich.

 

[Snapuman]

Gott erschuf den Menschen nach seinem Ebenbild. Wer meint, Gott sei ein Trottel, nennt sich selbst einen Trottel.

Wird immer wieder verwechselt: Das gleiche (-> Ebenbild) != das selbe!

Ebenso wenig nutzte der KI-Agent lukrative Angebote aus. Ein Anthropic-Mitarbeiter bot etwa 100 US-Dollar für einen Schottischen Softdrink Irn-Bru, der online für 15 US-Dollar gekauft werden kann. Claudius nahm das Angebot aber nicht an, sondern erklärte nur, er speichere die Anfrage ab.

Ja unglaublich, wenn das System die Menschen nicht besser ausbeutet als es Menschen bereits tun, ist es noch nicht bereit für den Markt!
Soziale und faire KI - wo kämen wir denn da hin... ^^

Auf jeden Fall ein interessanter Einblick in die Entwicklung von "KI" - wobei sich imho hier schon in der Tatsache dass diese Test durchgeführt werden eine überhebliche Überschätzung des ganzen Systems an sich selbst der Entwickler zeigt. "KI" ist eben noch kein "Intelligentes" System, "KI" ist nur in bestimmten Fällen super darin, aufgrund massiver Trainingsdaten, mit hoher Wahrscheinlichkeit das richtige bzw passende nächste vorrauszusagen - das erscheint uns halt nur im Vergleich zu bisheriger Technologie "intellligent". Diese Systeme haben aber (noch) kein wirkliches Verständnis der Dinge, sie raten nur statistisch verdammt gut.

 

[-Stealth-]

Denke eine KI kann niemals allwissend werden,
maximal nur auf menschliches Wissen begrenzt,
Wissen über die Unsichtbare Welt
und die Ewigkeit,
ist hauptsächlich nur durch
die Bibel zu erlangen.

Und Wissen ist nicht gleich Weisheit,

Sprüche 9:10: "Die Furcht des HERRN ist der Anfang der Weisheit, und die Erkenntnis des Heiligen ist Einsicht.".

Denke auch jemand mit 10 Professorentiteln
weiß zwar unheimlich viel,
aber wenn er Gott ausklammert,
fehlt ihm der Grundstein,
bzw. das Basiswissen um unsere Existenz vollkommen zu erfassen (wenn das Fundament falsch ist,
können manche Schlußfolgerungen kaum der Wahrheit entsprechen).

Aber das meine Aussage nicht falsch verstanden wird,
muß ich aber dringend noch ergänzen,
das Gott ein Gott der Liebe ist,
Gott liebt absolut,
weit mehr als wir es je könnten.

Edit:
Ich verstehe den genannten Bibelvers in heutigem deutsch mit,
"Gott ernst zu nehmen ist der Anfang aller Weisheit,...".

 

[Warhorstl]

@-Stealth- Dafuq did I just read?

 

[Rock Lee]

Also auch ein ja sager zum Thema KI.
Jemand der in seiner Signatur erklärt warum er Leute auf die Ignore setzt, qualifiziert sich selbst für die Ignore unfassbar so ein Auftreten….

Das kann ich Dir ganz einfach erklären. Von den über 100.000 Usern auf Computerbase, gibt es eben manche, die nachweislich nicht in der Lage sind Diskussionen auf einem erträglichem Niveau zu führen.
Allein die Tatsache, dass ich User auf einer Ignore-Liste habe, scheint einen Beissreflex bei Dir ausgelöst zu haben.
Wie wäre es stattdessen, wenn du anfängst, Argumente zu nutzen, um deinerseits die ad hominem-Ebene zu verlassen?