News Datenleck durch falsche Informationen: AI-Agent verursacht bei Meta gravierenden Sicherheitsvorfall

[Drakrochma]

Man sollte halt schon wenigstens grob Ahnung haben von dem was man tut...
Blind der KI vertrauen ist ne blöde Idee.
Spreche da aus Erfahrung

 

[Merit]

 

[Dwork]

Ist lustig, aber Populismus. Bzw. wär ne KI heutzutage schon "schlauer.", wie doof nen Mensch sein kann, lässt sich zumindest gar nicht "errechnen".😊 Von Genie bis Wahnsinn ist die Spanne recht hoch und da gibts auch "Abstufungen", die recht extrem sein können. Ne KI kann man zumindest noch abschalten und in weiten Teilen ignorieren oder korrigieren. Am Ende ists halt wieder die Kosten/Nutzen Frage.

 

[Sandman2000]

Beeindruckend, wie effizient KI jetzt schon arbeitet – früher brauchte es ganze Abteilungen für so eine Sicherheitslücke. 😉

 

[Land_Kind]

Früher hies es: Der Azubi hat mal wieder Scheisse gebaut. Das ändert sich wohl gerade...

 

[Merit]

https://www.theguardian.com/us-news/2026/mar/12/tennessee-grandmother-ai-fraud
TL: DR
Großmutter saß fast halbes Jahr im Gefängnis weil KI Geschtserkennung ein false positive hatte.

und keiner hat auch nur gezögert sie einzubuchten auch wenn es keinen Sinn gemacht hat - selbst nachdem es weitere Straftaten gab wo Sie schon eingebuchtet war..

und ich hab nicht mal wirklich danach gesucht gibt schon so einiges zum Thema

 

[GuckenWasGeht]

Edit: Kommentar war ein bisschen zu aggressiv für mich.

 

[Flare]

Und danach bekommen die KI-Agenten eins auf die Finger, aber die intern in ihre Richtung fahrlässigen Vorsichtsmängel werden früher oder später die erste KI zeigen die sich dumm stellt aber sich schon freigehackt hat und dann kommt irgendwann der Skynet-Moment oder wie?
Party-Mode der KI-Agenten sozusagen, das gibt ne Sause.