News Teenagerinnen verklagen xAI: Bilder von sexu­ellem Kindes­missbrauch durch Grok AI

[Nazrael]

Das eigentliche Problem ist, dass dadurch die Grundursache nicht behoben wird. Diese Büchse der Pandora lässt sich nicht einfach wieder schließen, weil das Problem nicht nur bei einzelnen Anbietern liegt, sondern in der grundsätzlichen Verfügbarkeit und Leistungsfähigkeit solcher Systeme. Sobald eine KI reale Fotos bearbeiten kann, stoßen selbst strenge Ethikrichtlinien schnell an ihre Grenzen. Wer gezielt promptet und weiß, wie Schutzmechanismen funktionieren, kann sie oft umgehen.

Dass es hier ausgerechnet Grok trifft, liegt vermutlich an der besonderen Aufmerksamkeit, die durch die Polarisierung um Elon Musk entsteht, an der niedrigen Zugangshürde und womöglich auch daran, dass man sich mit einem bewusst auf "Erotik" möglichen Auftreten besser vermarkten wollte.

Das Grundproblem geht jedoch weit darüber hinaus. Es gibt längst unzählige KI-Anbieter, die auf regulatorische oder ethische Standards kaum Rücksicht nehmen, oft aus schwer greifbaren Rechtsräumen heraus. Gleichzeitig werden private Modelle immer zugänglicher, leistungsfähiger und für alltägliche Anwendungen auch ressourcenschonender. Genau deshalb ist Grok beziehungsweise xAI nicht der Kern des Problems, sondern nur dessen sichtbarste prominente Ausprägung.

Ich sehe leider schwarz was diese Problematik angeht, das lässt sich nicht mehr zurück drehen.

 

[Bierliebhaber]

wird hier nur xAI verklagt, oder auch die Person welche dieses Bild generieren liess? Man könnte ja auch ein Küchenmesser nehmen und damit jemand töten, ist dann der Hersteller dieses Messers für den Tod verantwortlich?

Damit möchte ich nicht xAI in Schutz nehmen, aber was genau ist mit dem Täter (Person)?

Erstmal ist auch die Verbreitung kinderpornografischer Inhalte illegal. Der Vergleich mit dem Küchenmesser ist Schwachsinn, es wäre eher damit vergleichbar dass z.B. YouTube solche Inhalte bereitstellen und verbreiten würde. Da das alles hier eine Bude ist...

Zum anderen gibt es bei KIs, deren Entscheider zurechnungsfähiger und weniger psychopatisch sind, Schutzmechanismen. Mit denen kann man ohne Umwege generell keine NSFW-Inhalte erstellen, geschweige denn Pornos mit Kindern. XAI nimmt solche Inhalte zumindest in Kauf, wenn man sie nicht sogar in Elmos verdrehter Welt gut heißt. Da fallen ja solche Dinge unter Meinungsfreiheit, aber wenn er selbst kritisiert wird muss alles sofort gelöscht oder die betreffenden Angestellten gefeuert werden...

 

[Randnotiz]

Es mag stimmen, dass LLMs gekommen sind, um zubleiben und dass sich jeder ein solches daheim aufsetzen kann.
Es stimmt allerdings auch, dass die meisten Menschen schlicht die Möglichkeiten großer Dienste nutzen, anstatt sich selbst die Hände schmutzig zumachen und wenn Elon Musk sein LLM da ohne Einschränkungen, auf dem eigenen Online-Angebot zugänglich macht, wird es natürlich entsprechend auch von dem passenden Publikum verwendet.

Der Aspekt der Privatsphäre und dass man seit geraumer Zeit eben keine Fotos einfach so online teilen kann, ohne dass diese für immer verfügbar bleiben, ist allerdings ebenso relevant.

Hier sind Twitter und die Schöpfer der generierten Fotos gleichberechtigt Schuld.

 

[Schinken42]

Teenager sind ja erstmal minderjährig, die verklagen niemanden, sondern die Eltern.

10-20. Die Zehner-Jahre halt
13-19, alles mit Teen im Namen. Mit Dank an @Incanus

Davon ab gilt man je nach Land auch vor der Volljährigkeit als teilweise rechtsfähig.


Deshalb können natürlich auch minderjährige klagen.

Davon ab steht ja auch im Artikel, dass die Eltern die Klage unterstützen.
Was willst du demnach eigentlich sagen?

Ich bin aber der Meinung, wir, die Menschheit hat MachineLearning freigelassen und man wird es nicht einschränken können.

Und was willst du damit sagen? Kann man gleich sin lassen? Einfach hinnehmen?

wird hier nur xAI verklagt, oder auch die Person welche dieses Bild generieren liess? Man könnte ja auch ein Küchenmesser nehmen und damit jemand töten, ist dann der Hersteller dieses Messers für den Tod verantwortlich?

Damit möchte ich nicht xAI in Schutz nehmen, aber was genau ist mit dem Täter (Person)?

Der Messerhersteller hat keine technische Möglichkeit den Missbrauch des Messers zu verhindern, er gibt das Messer aussserdem weg.
Beides trifft nicht auf Grok zu.

Ausserdem steht im Artikel, dass der Verdächtige festgenommen wurde.

 

[Schmarall]

Also ... ich will keinesfalls in Abrede stellen, wie eklig das ist. Und bei Kindern abscheulich!

Aber schon zu DialUp-Modem-Zeiten des Internets gab es Fake-Bilder, bei dem die Leute den Kopf von Prominenten/Schauspielern auf den nackten Körper von anderen geklebt haben. Das ist also "an sich" keine neue Entwicklung. Gleichwohl ist es mit KI nun leichter denn je.

(Edit: Ich beziehe mich da jetzt auf Erwachsene generell.)

 

[banditone]

Das bringt leider überhaupt nichts, denn mit Stable Diffusion, ComfyUI, Forge, SwarmUI, CivitAI usw. ist die Katze schon lange aus dem Sack und man wird sie auch nie wieder dorthin zurückbekommen. Daher bringt es auch nichts, diese One-Click-KI-Anbieter zu zensieren. Man sollte eher denjenigen verklagen, der diese Bilder erstellt hat, und nicht die KI. Aber von dem ist wahrscheinlich nicht wirklich viel Geld zu holen, anders als vom Elon

 

[akuji13]

Teenager sind ja erstmal minderjährig, die verklagen niemanden, sondern die Eltern.

In Deutschland ja, in den USA nicht automatisch.

"Eighteen" z. B. gilt per Definition auch noch als Teenager und rechtlich ist die 18 auch nicht überall als volljährig gesetzt.

 

[Lilz]

@OpenSystemFan (Witziger Name, wenn man Systeme einschränken will.) Die hürden sind ggf höher, aber die Programme sind komplett unreguliert, also was soll also das Argument? Dich mit einer Schaufel zu erschlagen ist nicht viel aufwendiger als mit einem Morgenstern. Wie willst du das Regulieren?

Ich bleib dabei, der Umgang mit solchen Inhalten sehe ich als kritisch, die Zugänglichkeit ebenso. Aber die Möglichkeit besteht eben bei einem offenen System. Aber das Werkzeug, dessen Hersteller oder Betreiber sollte nicht bestraft werden, sondern der Anwender. Dieser nutzt das Werkzeug zu kriminellen Zwecken, der hat die Absicht jemandem zu schaden. Der Täter ist Schuld für die Umständer der Opfer.
Und dort sollten die Strafen dementsprechend hoch ausfallen, die Täter sollen ihr Handeln ändern/überdenken. Wer sowas tun will findet andere Wege und wenn er nachher zB wieder bei Photoshop landet.

 

[habla2k]

Aber schon zu DialUp-Modem-Zeiten des Internets gab es Fake-Bilder, bei dem die Leute den Kopf von Prominenten/Schauspielern auf den nackten Körper von anderen geklebt haben. Das ist also "an sich" keine neue Entwicklung. Gleichwohl ist es mit KI nun leichter denn je.

Nein, es ist nicht nur leichter, es ist deutlich realistischer. "Früher" hat man das Fake halt sofort als solches erkannt. Jetzt sieht das halt wirklich aus, als wärst du das.

Das Foto vom Schwarm auf den Körper eines Playboy Posters zu kleben ist halt auch was anderes, als deepfake Bilder zu machen und in der Schule zu verteilen.

 

[Benna]

Ich finde das prima. Das Recht muss einfach mal einen Rahmen ziehen, damit diese, und hoffentlich bald andere Themen auch, eine rechtliche Grenze haben und es für KI keinen rechtsfreieren Raum mehr gibt.

 

[Incanus]

10-20. Die Zehner-Jahre halt.

Nein, 13-19, die mit 'teen' im Namen. nicht 'ten'.

Ich finde es auch richtig, dass hier mal versucht wird etwas dagegen zu tun, dass Plattform-Betreiber bewusst Tabubrüche in Kauf nehmen oder gar fördern, um erfolgreich zu sein.
Es geht ja nicht darum, dass Werkzeuge in welcher Art auch immer missbraucht werden können, sondern dass dieser Missbrauch als Erfolgsrezept genutzt wird.

 

[Schildbrecher]

Die Sammelklage ist berechtigt und absolut nachvollziehbar!

Finde ich nicht.

Man sollte die Täter stattdessen ausfindig machen und angemessen bestrafen, die der Maschine den Auftrag gegeben haben, Persönlichkeitsrechte Dritter zu verletzen.

 

[Incanus]

Man sollte die Täter stattdessen ausfindig machen und angemessen bestrafen

Nicht 'stattdessen', wie im Thread auch schon (mehrfach) gesagt, passiert das ja parallel.

 

[steirerblut]

Wenn das Groq Team es wiederholt nicht schafft Barrieren hinter seine LLM Modelle zu ziehen ist das durchaus gerechtfertigt. Nur nicht als Zivilklage die dann wieder als Einigung mit Entschädigungssumme XYZ ohne Konsequenz in der Schublade verschwindet.
Das selbe wirst auch bei allen anderen Frontier Modellen machen können wenn du das System mit entsprechenden Prompts überlistest.
Die Phantasie wirst halt nicht stoppen können: Ist ne Nacktzeichnung ne Klage wert? Wie legal waren die Nacktscannerapps vor 10 Jahren die im Fernsehen beworben wurden? Ists am Ende doch nur ein Cashgrab von ein paar Privatpersonen?
Verklagen ja, aber daraus muss auch eine Konsequenz und Verpflichtung für die Frontier Model Betreiber entstehen.

 

[Jakop]

Aber "Ihr Leben wurde zerstört" ist evt. dann doch etwas übertrieben...?

Nun ja, wenn du als Schüler plötzlich das Gespött bzw. Lustobjekt der ganzen Stadt oder sogar Region bist, Deine Bilder sich sogar Landes- und Weltweit verteilen und Du null Einfluss darauf hast. Da kann man ganz sicher Leben zerstören oder sogar Teenager in den Suizid treiben.

 

[M@tze]

Logisch - verklagt das Werkzeug, nicht den Nutzer.
Wenn ich mit einem Hammer jemanden erschlage wird ja auch konsequent der Baumarkt verklagt, der ihn mir verkauft hat. Und ich bleibe unbehelligt.

Sorry, aber was für ein blöder Vergleich. Um bei Deinem Beispiel zu bleiben, wurde dem Hersteller des Hammers mitgeteilt, dass sein Produkt auch für unerwünschte andere "Aktionen" missbraucht wurde und er dies hätte verhindern können bzw. wenigstens jetzt unterbinden solle. Der Hersteller hat aber gemeint "Unsere User wissen es besser, lass sie mal machen - das passt schon so.". 🤷‍♂️

Man sollte die Täter stattdessen ausfindig machen und angemessen bestrafen, die der Maschine den Auftrag gegeben haben, Persönlichkeitsrechte Dritter zu verletzen.

Das Eine schliesst das Andere ja nicht aus, wie uns schon der Artikel zeigt - den man natürlich komplett gelesen haben muss...

Die Polizei soll daraufhin bereits im vergangenen Jahr eine Strafermittlung gegen den Täter eröffnet und diesen im Dezember festgenommen haben.

 

[Schinken42]

Nein, 13-19, die mit 'teen' im Namen. nicht 'ten'.

Stimmt natürlich, mein Fehler.

 

[gartenriese]

wird hier nur xAI verklagt, oder auch die Person welche dieses Bild generieren liess? Man könnte ja auch ein Küchenmesser nehmen und damit jemand töten, ist dann der Hersteller dieses Messers für den Tod verantwortlich?

Damit möchte ich nicht xAI in Schutz nehmen, aber was genau ist mit dem Täter (Person)?

Steht doch im Artikel.

 

[DickPuschen]

Der Täter ist lt. Artikel bereits verhaftet worden.

 

[TD1334]

Ich bin nicht wirklich im Thema drin - muss ich direkt zugeben.
Das hier die KI Bilder erstellt welche nicht - wie bei den meisten anderen - komplett zensiert werden, kann man finden wie man will. Ich bin allgemein gegen Zensur. D.h. aber nicht, dass man verbreiten kann was man will, vorallem mit der Absicht anderen zu schaden. Ich sehe hier nur eine Teilschuld bei Grok bzw dessen Betreibern.
Die eigentliche Schuld liegt doch bei den erstellern der Prompts und vorallem bei der Verbreitung. Und meiner Meinung nach sollte dort auch die Schuldfrage und Strafe angesetzt werden.

Wenn jemand Bilder mit Kinderpornografischem Inhalt zB per Photoshop erstellt und wie auch immer verbreitet wird auch nicht Adobe verklagt.

Ernsthaft?
Es hat auch nicht Photoshop die Bilder erstellt sondern die Person davor. Im anderen Fall hat die KI die Bilder auf Wunsch angefertigt.
Das ist so als wenn du zu mir für einen Giftcocktail kommst und damit jemanden tötest. Dann bin ich auch dran und zwar zu recht. Nach deiner Philosophie wäre ich ja unschuldig.

Nicht alles was verboten ist ist Zensur, denn wir leben in einer Gemeinschaft die irgendwie auskommen muss und da ist ein wenig Prävention nicht verkehrt,