Teenagerinnen verklagen xAI: Bilder von sexu­ellem Kindes­missbrauch durch Grok AI

Die bereits Anfang des Jahres bekanntgewordene Vielzahl an Bildern, die durch den in X integrierten KI-Chatbot Grok erstellt wurden und sexualisierte Darstellungen von Prominenten, Frauen und sogar Minderjährigen zeigten, hat weitere Konsequenzen: Drei Teenager haben mit ihren Eltern eine Sammelklage gegen xAI angestrengt.

Sexualisierte Bilder haben nun Konsequenzen – nicht nur in den USA

Bereits Anfang des Jahres berichteten Medien über die fehlenden Sicherheitsrichtlinien auf X, die es ermöglichten, per Grok AI Bilder von Frauen, aber auch Kindern in Bikinis oder sexuellen Posen generieren zu lassen und diese dort zu veröffentlichen. Dabei wurden massenhaft sexualisierte Inhalte aus originalen und meist harmlosen Bildern ohne die Einwilligung der Inhaber erstellt und gepostet. Nach neuen Erkenntnissen sollen dabei allein innerhalb der ersten neun Tage 4,4 Millionen „entkleidete“ oder „nackt gestellte“ Bilder generiert worden sein – 41 Prozent aller in dieser Zeit erstellten Bilder. 23.000 von ihnen sollen sexualisierte Darstellungen von Kindern gezeigt haben.

Diese Vorgänge hatten für die Plattform in Frankreich bereits Konsequenzen: Hier kündigten Behörden erste Ermittlungen an und wollen laut einem Bericht von Politico ein bereits bestehendes Verfahren um den aufgeführten Punkt ausweiten. Aber auch in Großbritannien hat der dortige Kommunikationsregulator Ermittlungen aufgenommen, Gleiches gilt für den kalifornischen Generalstaatsanwalt.

In Tennessee haben nun drei weibliche Teenager, zwei davon noch minderjährig, und ihre Erziehungsberechtigten eine Sammelklage gegen xAI eingereicht, wie die Washington Post berichtet. Ein einzelner Täter soll laut dieser Bilder und Videos von insgesamt mehr als 18 Mädchen zusammengestellt und einige davon mithilfe von KI digital verändert haben. Viele dieser Mädchen sollen zudem dieselbe Schule besucht haben.

Klage sieht Leben der Opfer zerstört

Die drei Jane Does – Pseudonyme, die den Teenagern zum Schutz ihrer Identität gegeben wurden – werfen Elon Musks Unternehmen vor, mit seiner Grok-KI-Technologie Material über sexuellen Kindesmissbrauch erstellt und verbreitet zu haben, das ihre Gesichter und Ähnlichkeiten zeigt. „Ihr Leben wurde durch den verheerenden Verlust an Privatsphäre, Würde und persönlicher Sicherheit zerstört“, heißt es unter anderem in der Klageschrift. Dies sei durch „die Produktion und Verbreitung dieses CSAM“(Child Sexual Abuse Material) verursacht worden. Dabei soll der finanzielle Gewinn von xAI durch die verstärkte Nutzung seines Produkts zur Erstellung von Bildern und Videos auf Kosten des Wohlergehens der Betroffenen gegangen sein.

Die Kläger merken zudem an, dass es für Betrachter der Bilder keinerlei Möglichkeiten gegeben habe, diese als Fälschung zu erkennen. „Für den Betrachter wirkt das resultierende Video vollkommen echt. Für das Kind werden seine Erkennungsmerkmale nun für immer mit einem Video verbunden sein, das seinen eigenen sexuellen Missbrauch darstellt“, heißt es in der Klage. Dies sei vor allem deswegen möglich gewesen, da das Unternehmen keine branchenüblichen Sicherheitsvorkehrungen getroffen habe, die Missbrauchstäter daran hindern würden, entsprechende Bilder zu erstellen. Darüber hinaus wird dem Unternehmen vorgeworfen, die Nutzung seiner Technologie an Drittunternehmen im Ausland lizenziert zu haben, die wiederum Abonnements an die Missbrauchstäter verkauften, mit denen Bilder von sexuellem Kindesmissbrauch mit den Gesichtern und Ähnlichkeiten der Opfer erstellt werden konnten. Die Anfragen sollen dabei über die Server von xAI gelaufen sein, was das Unternehmen haftbar mache, so die Klage weiter. Die Anwälte gaben zudem an, mit externen Fachleuten zusammenzuarbeiten, um festzustellen, dass die Bilder von einer KI und speziell von Grok erstellt worden waren.

Schule und Jahrbuch als Quelle

In der Anklage wird erklärt, dass eines der manipulierten Bilder von einem Foto stammt, das die erste Klägerin bei der Schulkrönung im September zeigt. Ein anderes, das sie oben ohne zeige, schien mit einem Jahrbuchfoto erstellt worden zu sein, heißt es weiter. Die Polizei soll daraufhin bereits im vergangenen Jahr eine Strafermittlung gegen den Täter eröffnet und diesen im Dezember festgenommen haben. Die Polizei durchsuchte daraufhin auch sein Telefon.

Grok-Bildgenerierung soll nicht weiter zugelassen werden

Die drei Kläger fordern nicht nur Schadensersatz, sondern die Klage zielt zusätzlich darauf ab, das Unternehmen daran zu hindern, eine Bildbearbeitung wie die zur Änderung ihrer Fotos verwendete weiter zuzulassen. Laut den Anwälten der Familien soll xAI ein Umfeld geschaffen haben, in dem sich die Verbreitung von Missbrauchsmaterial zwangsläufig ausbreitete, da die Technologie und die öffentliche Kommunikation des Unternehmens die Nutzer quasi dazu ermutigen würden, explizite Bilder zu erstellen.