News Datenleck durch falsche Informationen: AI-Agent verursacht bei Meta gravierenden Sicherheitsvorfall

[Andy]

Ein mit OpenClaw vergleichbarer AI-Agent führte bei Meta zu einem internen Datenleck. Der KI-Assistent selbst produzierte keinen fehlerhaften Code, gab einem Mitarbeiter aber falsche technische Angaben, berichtet The Verge.

Zur News: Datenleck durch falsche Informationen: AI-Agent verursacht bei Meta gravierenden Sicherheitsvorfall

 

[SSD Freak]

Welt Wunder 😱

 

[mmdj]

aus diesem grund werde ich fürs erste auch keine agenten für einfache sachen benutzen die mir etwas zusammenfassen und sagen welches meeting welche infos ich für was brauche. ich kann dem kram aktuell nicht vertrauen. selbst einfaches troubleshooting und die wiederholende antworten "ah stimmt, genau daran wirds gelegen haben" nerven nurnoch.

 

[aid0nex]

Das größte Problem ist dabei: Wer genau ist dann verantwortlich? 🤔
Konzerne und Behörden lieben es, einen Schuldigen zu finden der den Kopf hin halten muss.
Wenn ich das richtig gelesen/verstanden habe, war das gleiche Problem ja auch im aktuellen Iran-Krieg: Die Rakete, die diese Mädchen Schule getroffen hat, neben der irgend so ein wichtiges Militärzentrum lag, wurde offensichtlich von einer KI ausgewählt. Früher wäre da irgendein General der den Befehl gegeben, die Entscheidung getroffen hat, gefeuert worden. Was genau macht man jetzt? 🤔
Wer ist der Loser im Blame Game? 🙃

 

[BxBender]

2026: 170 Menschen, davon viele Kinder, sterben in einem einzigen Raketenbeschuss im Iran durch den Einsatz von KI, basierend auf Google Maps Material aus dem Jahre 2013; seit mindestens 10 Jahren, basierend auf 2016er Kartenmaterial, hätte ein Mensch es besser gewusst
2026: KI spielt in großen Tech Firmen verrückt und macht mit Daten und Sicherheitsfreigaben was es will
2029 ...

 

[HAse_ONE]

keine Nutzerdaten seien in diesem Zeitraum „unsachgemäß behandelt“ worden

Ganz bestimmt nicht.

Dieser gab lediglich fehlerhafte Informationen, was im Kern etwas ist, das auch unter Menschen passieren kann.

Wie immer diese Beschwichtigungen kommen "ja aber der Mensch ist ja genauso dumm".

 

[Messiah]

Dumm, dümmer, Trump, KI.

 

[Randnotiz]

Und das passiert, wenn man Software im "Alpha-Level" auf prod Servern laufen lässt und das eigene Personal dem auch noch blind Folge leistet.

 

[jedi23]

Weniger KI, mehr Kläuse und Ingos bitte!

 

[Marcel55]

Es sollte ja auch immer noch mal ein Mensch drüber gucken, der weiß was er tut.
KI einfach machen lassen und hoffen dass es schon passt ist fahrlässig.

aus diesem grund werde ich fürs erste auch keine agenten für einfache sachen benutzen die mir etwas zusammenfassen und sagen welches meeting welche infos ich für was brauche.

Genau für solche einfachen Sachen ist KI doch prädestiniert. Die Menge der Eingabetoken ist überschaubar, es gibt bei einem guten Modell nicht so viel Spielraum da etwas wirklich falsch zu machen.
Deshalb, einfache Aufgaben ja...aber je komplexer es wird und je größer die Menge an Eingabedaten wird, umso mehr neigt das Ganze dazu auch tatsächlich Fehler zu machen.
Und wie immer sollte man die Ausgabe natürlich kontrollieren und nicht blind hinnehmen.

 

[Kuristina]

Steckt halt noch in den Kinderschuhen, aber ist jetzt auch kein Drama passiert hier. Wird mit der Zeit reifen.

 

[Krik]

Früher wäre da irgendein General der den Befehl gegeben, die Entscheidung getroffen hat, gefeuert worden. Was genau macht man jetzt?

Soweit ich weiß, gibt immer noch der General den Befehl.
Es wird sich aber keiner hingesetzt und geprüft haben, welche Ziele die KI ausgewählt hat. Sonst wäre es wohl nicht zu diesem Unglück gekommen. Ich bin mir nicht sicher, ob überhaupt noch einer die Ziele prüft. Wenn die mir erzählen, dass in den ersten paar Tagen tausende Ziele bombardiert wurden, dann kann ich mir nicht vorstellen, dass sich jemand vorher hingesetzt und sie alle angeschaut hat.

 

[Mondgesang]

Das größte Problem ist dabei: Wer genau ist dann verantwortlich? 🤔
Konzerne und Behörden lieben es, einen Schuldigen zu finden der den Kopf hin halten muss.

Ganz einfach. Der Anwender. So wie beim Parksensor auch der Fahrer der Schuldige ist, wenn trotz Sensor was schief geht.

 

[Azeron]

Und warum hat die Person, die das umgesetz hat, nicht vorher hinterfragt ob das überhaupt korrekt ist? Ich meine, wenn ich Berechtigungen ändere, dann weiß ich in der Regel auch was das für Berechtigungen sind und was das für Auswirkungen haben kann, ganz egal ob die Information nun von einem Bot oder einem Menschen kommt.

Dass ein Bot mal Schwachsinn von sich gibt ist das eine, dass der Mensch, der um Gegensatz zum Bot wirklich ein Hirn hat, diesen Schwachsinn aber unüberlegt umsetzt vorallem wenn er weiß dass die Antwort von einem Bot kommt, ist schon wieder was anderes.

Das ist genauso wie wenn man sich blind aufs GPS verlässt anstatt dass man selber das Hirn einschaltet und auf die Straße schaut und vorher hinterfragt ob das so korrekt ist bevor man die Karre zB. in einen See manövriert

 

[Jasmin83]

Meta ist genau so ein sauhaufen wie X, da kann man nichts machen und es interessiert auch niemanden dort, die gehen dann einfach zur Tagesordnung über, wie bei den zahlreichen anderen externen Datenlecks.

Für alle Star Trek Fans, die es nicht mehr auf der Kette haben: 2026 begann der dritte Weltkrieg dort, nur das hier ein geisteskranker Spinner auf der Welt zündelt, mit Hilfe von KI und andere Staaten und Allianzen da mit reinziehen will, wegen vorheriger dummheit und inkompetenz.

 

[Weedlord]

Das größte Problem ist dabei: Wer genau ist dann verantwortlich? 🤔
Konzerne und Behörden lieben es, einen Schuldigen zu finden der den Kopf hin halten muss.
Wenn ich das richtig gelesen/verstanden habe, war das gleiche Problem ja auch im aktuellen Iran-Krieg: Die Rakete, die diese Mädchen Schule getroffen hat, neben der irgend so ein wichtiges Militärzentrum lag, wurde offensichtlich von einer KI ausgewählt. Früher wäre da irgendein General der den Befehl gegeben, die Entscheidung getroffen hat, gefeuert worden. Was genau macht man jetzt? 🤔
Wer ist der Loser im Blame Game? 🙃

Tja, gib deinen Internet Provider die Schuld dafür

 

[Abrexxes]

Wird mit der Zeit reifen.

Und genau diese Zeit haben diese gigantischen Konzerne nicht da sie auf Teufel komm raus ihre gigantischen Investitionen rechtfertigen müssen. Unter dem Druck werden wir noch so einiges sehen.

 

[Kuristina]

Ja, aber ich finde es wird viel dramatischer dargestellt, als es ist. Fehler passieren, shit happens. Es wird weiter daran gearbeitet und verbessert werden.

 

[Dito]

2029 ...

...kommt Skynet. Dann brauchen wir uns keine Gedanken mehr machen.

Schuld hat, wer den KI-Bot eingesetzt hat. Wird beim autonomen fahren und anderen Dingen auch so sein/werden. Keine Versicherung usw. wird das übernehmen wollen. Es sei denn, sie ist rechtlich fein raus und zahlt am Ende weniger.

 

[KainerM]

KI hat falsche Informationen verbreitet? NEIN, das kann doch nicht sein!

(gefühlt 90% der Infos, die KI rausgibt, ist ungenau oder einfach erfunden)

Aber ist schon gut, wenn die KI-Vorreiter auch ihr eigenes Zeug damit kaputt machen, nicht nur den Rest der Welt. Ist halt echt ein Problem, das schon nach so kurzer Zeit viele Leute komplett blind auf den Mist vertrauen und ihr Know-How verlieren.

mfg