News Datenleck durch falsche Informationen: AI-Agent verursacht bei Meta gravierenden Sicherheitsvorfall

[supertramp]

Wehe das wäre anderen passiert, bevorzugt den Chinesen

 

[the_ButcheR]

Tja, passiert halt. 🤷‍♂️
Ich bin gespannt wann es zum ersten mal richtig Kracht und ein Milliardenschaden bekannt wird, weil ein Agent, eine AI oder was auch immer richtig reinhaut...

 

[Ripcord]

@BxBender

und erst mal in der Kausalkette einen Schuldigen finden aber eines steht fest, die Ki wird es nicht sein. Die ist unantastbar. Erinnert doch erschreckend an das Mercury Puzzle...

 

[Kuristina]

(gefühlt 90% der Infos, die KI rausgibt, ist ungenau oder einfach erfunden)

Ungenau war dann auf jeden Fall dein Prompt.

 

[Dodo Bello]

Interessant. Wie in den Anfangstagen des Internets, als dort abgelegte Infos oft leichtfertig als korrekt angesehen und ungeprüft verwendet wurden. D.h. noch bissel eine gesunde Skepsis gegenüber AI Agents zu entwickeln.

 

[habla2k]

Das größte Problem ist dabei: Wer genau ist dann verantwortlich?

Also neulich hieß es doch, die KI ist nicht schuld, wenn der Fehler auch einem Menschen hätte passieren können.

Fehler passieren, shit happens. Es wird weiter daran gearbeitet und verbessert werden.

Findest du nicht, das ist etwas sehr einfach formuliert? In diesem Fall mögen die Auswirkungen nicht gravierend gewesen sein, das kann aber an anderer Stelle auch ganz anders ausgehen. Und es erhärtet sich irgendwie der Verdacht, dass "KI" einfach zu schnell eingesetzt wird und zu wenig vorher dran gearbeitet und verbessert wurde.

 

[Zer0DEV]

Skynet lebt, rette sich wer kann...

 

[Azeron]

Und es erhärtet sich irgendwie der Verdacht, dass "KI" einfach zu schnell eingesetzt wird und zu wenig vorher dran gearbeitet und verbessert wurde.

KI reift eben in der Produktionsumgebung so wie eigentlich fast alles heutzutage. Selbst bei Autos ist es mittlerweile so dass du dir nen Neuwagen holst und es da vorkommen kann dass der von einem auf den anderen Tag nicht mehr anspringt weil es irgendein Bug in der Software gibt. Vorher testen und es erst ausgereift auf den Markt werfen, dauert eben zu lange und kostet damit zuviel Geld.

 

[Gamefaq]

Wenn ich das richtig gelesen/verstanden habe, war das gleiche Problem ja auch im aktuellen Iran-Krieg: Die Rakete, die diese Mädchen Schule getroffen hat, neben der irgend so ein wichtiges Militärzentrum lag, wurde offensichtlich von einer KI ausgewählt. Früher wäre da irgendein General der den Befehl gegeben, die Entscheidung getroffen hat, gefeuert worden. Was genau macht man jetzt? 🤔

Das Problem hierbei war nicht eine KI. Sondern das die Ziel Daten nicht auf Aktualität ERNEUT VOR DEM START des Abschusses überprüft wurden. Denn die Schule WAR MAL ein Stützpunkt des Militär Apparats. Aber wie in Deutschland auch üblich wurde dieses Militär Verwaltungsgebäude geschlossen und dann eben damit es nicht unnötig leer steht , als Mädchen Schule weiter genutzt. Es hat also niemand (egal ob KI oder Mensch) verifiziert ob "die Daten" aktuell sind. Frei nach dem Motto: Zuerst Schießen, Fragen stellen wir später!

 

[domian]

Ist halt echt ein Problem, das schon nach so kurzer Zeit viele Leute komplett blind auf den Mist vertrauen und ihr Know-How verlieren.

Wer hätte das nicht kommen sehen von den superschlauen KI Nutzern... also doch alles nur Ingos und Kläuse. Nicht nur die KIs selbst leiden mehr und mehr an ihrer eigenen "vererbten Dummheit".

 

[WinFan]

Es geht doch nichts über eine genaue Sucheingabe bei den Suchmaschinen, damit bleibt die KI von wem auch immer bei mir außen vor.

 

[luckysh0t]

Es hat also niemand (egal ob KI oder Mensch) verifiziert ob "die Daten" aktuell sind

Passiert hier ja auch das ein oder andere mal, wenn ein Bagger etwas beschädigt. Da hat jemand einen Straßenplan mit den Leitungen, sieht mit Glück das Datum, oh 2010, wird schon stimmen, oder ich frage nach, ja uns liegt kein neuerer vor..zack halbe Stadt getrennt vom Internet.

Es wird sich zu oft auf vorliegende Daten verlassen..und man denkt sich, nuja irgendeiner wird das ja schon geprüft haben. Falls man an solche Prozesse überhaupt denkt.

Ergänzung (Heute um 11:29)

Ist halt echt ein Problem, das schon nach so kurzer Zeit viele Leute komplett blind auf den Mist vertrauen und ihr Know-How verlieren.

Ist ja auch kein Wunder, wenn die Teile überall als KI bezeichnet und das Allheilmittel verkauft werden, und wie sonst was durchs Dorf getrieben werden.

Ist wie bei anderen Dingen auch, steht im Internet, muss stimmen. Umso einfacher, wenn es dem eigenen Bias entspricht.

 

[Simsalartist]

„Was nützt uns die schönste künstliche Intelligenz, wenn wir keine natürliche haben?“
Dieser Satz des Kabarettisten Jochen Busse muss mittlerweile 40 Jahre alt sein und ist heute aktueller denn je.

 

[aid0nex]

wurde dieses Militär Verwaltungsgebäude geschlossen und dann eben damit es nicht unnötig leer steht , als Mädchen Schule weiter genutzt.

Boah ich weiß nicht, da folgst du aber schon sehr dem iranischen Narrativ. 🤔
Ich würde jetzt ehrlich gesagt nicht ausschließen dass Iran diese Verwirrung absichtlich nutzt, damit man im Zweifel eben nicht schießt und sich so hinter ziviler Infrastruktur verstecken kann.
Denn wenn die USA nicht geschossen hätten: Win für Iran, da man die USA dann erpressbar macht und sich zukünftig immer hinter ziviler Infrastruktur versteckt.
Wenn die USA (wie jetzt) doch schießen: Hat man die passende Propaganda, um die USA als Dämon darzustellen. Auch ein Win für Iran.

Sorry fürs OT.

 

[luckysh0t]

Boah ich weiß nicht, da folgst du aber schon sehr dem iranischen Narrativ. 🤔
Ich würde jetzt ehrlich gesagt nicht ausschließen dass Iran diese Verwirrung absichtlich nutzt, damit man im Zweifel eben nicht schießt und sich so hinter ziviler Infrastruktur verstecken kann.

Zivile Gebäude und Menschen als "Schutzschild" zu missbrauchen ist ja keine neue Erfindung. Da braucht man kein Narrativ um das zu verstehen - dass kann jeder. Auch das man sowas ausnutzt, ist nun nichts Iran spezifisches, finde ich.

Und das Fehler passieren, hat man u. a. mit dem Krankenhaus von Ärzte ohne Grenzen gesehen. Und da gibt es bestimmt noch weit mehr, wenn ich mich richtig erinnere, war auch mal etwas mit einem Tanklaster.

Die Atombomben auf Japan waren auch nicht "nötig" aber sie hatten dennoch ihren Zweck - aus in dem Fall amerikanischer militärischer Sicht.

 

[Robo-Man]

2026: 170 Menschen, davon viele Kinder, sterben in einem einzigen Raketenbeschuss im Iran durch den Einsatz von KI, basierend auf Google Maps Material aus dem Jahre 2013; seit mindestens 10 Jahren, basierend auf 2016er Kartenmaterial, hätte ein Mensch es besser gewusst

Wenn ich das richtig gelesen/verstanden habe, war das gleiche Problem ja auch im aktuellen Iran-Krieg: Die Rakete, die diese Mädchen Schule getroffen hat, neben der irgend so ein wichtiges Militärzentrum lag, wurde offensichtlich von einer KI ausgewählt.

Solche Behauptungen sind wenig Hilfreich, sondern befeuern nur die "Fake News" Ruferei, weil was anderes ist das nicht.

Es gibt, soweit ich das gelesen habe, keinerlei belastbare Beweise das hier die KI am Werk war.
Die ein oder andere Schlagzeile gab es da natürlich, schön mit einem "?" hintendran damit man rechtlich sauber ist.
Wird dann halt munter weitergeplappert ohne es zu lesen/zu verstehen, und schon hat man den Salat.
Die Medien sind teilweise selber schuld an den fake news Behauptungen, hauptsache man hat ein BUzzer-Wort benutzt und klicks bekommen.

Ich will hier nichts schönreden, aber es gibt eben keine Fakten, und sollte die Gerüchte nicht als solche darstellen.

 

[Benutzer0815]

Es sei denn, sie ist rechtlich fein raus und zahlt am Ende weniger.

Tut sie ja automatisch, da die autonomen Fahrzeug auf die Kilometer gerechnet sicherer fahren als Menschen. Klar gibt es immer mal eine „Horror-News“, autonomes Auto hat xyz gemacht. Passiert menschlichen Fahrern aber tagtäglich, tausende Male. Für die Versicherungen wäre es ein Traum, wenn alle autonom fahren würden. Das hybride ist halt das nervige.

 

[Dwork]

Irgendein Mitarbeiter hat Informationen bekommen (intern) zu denen er keine Rechte hatte. (intern)
Ohne KIs passiert dies seit es Menschen gibt, in der modernen Welt beim Kaffee. In dem Falll scheints sogar aufdeckbar zu sein.
Was das mit Irankriegen zu tun hat, erschliesst sich mir nicht. Ziele zu verifizieren ist auch der Job von Menschen.
Allein das man daran glaubt, dass google Maps zur Zielaufklärung benutzt wird wär schon vor 30 Jahren einigermaßen befremdlich gewesen.

 

[Merit]

sehr zu empfehlen ist auch das Memoir von der Sarah Wynn-Williams - Careless People

für mich absolut null Komma null überraschend wie hinter den Kulissen denken und agieren und dann auch nicht überraschend, dass sowas dann dabei rauskommt.. und auch wenns bissl Alu-Hut like ist: Ich glaub nicht, dass wir in der Öffentlichkeit mehr als die Spitze vom Eisberg zu sehen bekommen.

Sehr putzig fand ich mal wieder das natürlich nichts mit den Nutzerdaten passiert ist .. Quelle ? - trust me bro

 

[Spriti]

So ist das, wenn man sich mit einer Materie nicht auskennt und sich dann blind auf andere oder eine KI verlassen muss.

Das Problem wird zunehmen.

Immer weniger werden sich im Detail mit Systemen auskennen und dieses Wissen der KI überlassen und denken, dass die KI es richtig anwendet, oder die richtigen Infos liefert.

Heraus kommt dann Vibe-Coded-Unsinn.
Für banale Dinge und irgendwelchen 0815 pillepalle Tools ist das auch OK, aber nicht für kritische Bereiche.