News Teenagerinnen verklagen xAI: Bilder von sexu­ellem Kindes­missbrauch durch Grok AI

[Stahlseele]

Das wird nichts werden.
Sonst hätte es schon erfolgreiche Klagen zum Verbot von Schusswaffen, Tabak, Alkohol, Autos und was auch immer noch gegeben.

 

[Chillaholic]

Ich bin da recht zwiegespalten, ob hier der Softwarehersteller bzw. Anbieter zur Verantwortung gezogen werden sollte.

Laut ehemaligen Mitarbeitern hat Musk dieses Material billigend in Kauf genommen um Groks Nutzerzahlen zu boosten und es hat auch funktioniert.

 

[Khaotik]

Bin echt überrascht, wieviele hier gerade zu glücklich darüber sind, dass der KI-Anbieter verklagt werden soll.

Frage: Wenn ich solche Bilder nicht mit einer KI sondern mit Photoshop erstelle: Ist es dann auch legitim, wenn die Betroffenen Adobe verklagen? Letztlich habe ich auch nur mit der Hilfe deren Software dieses Bild erstellt und anschließend verteilt.

Für mich gefährliche Präzedenzfälle bzgl Nutzung von Software für strafbare Handlungen. Es wird die Frage bleiben, ab wann es der Hersteller billigend in Kauf genommen hat, das sowas passiert. Reicht es schon, wenn strafrechtlich verbotene Aktionen in den AGBs verboten werden?
Die Erstellung von Pornografischem Inhalt mit KI wird ja nicht grundsätzlich illegal oder strafbar sein. Anders natürlich wiederum das Verbreiten von pornografischem Material mit Minderjährigen oder realen Personen.

 

[ProfessorJump]

Wieso genau soll X/xAI/Grok haftbar sein? Wenn dann müsste man das Trainingsmaterial komplett offenlegen - falls diese Daten denn existieren?

Der Täter hat Teile des Materials hochgeladen, den Chatbot bezahlt und das Bild willentlich veröffentlicht, richtig?

Dieser Fall erscheint mir da ziemlich eindeutig, oder übersehe ich etwas?


Grundsätzlich brauchen wir in allen Ländern dringend eine gesetzliche Regelung zu KI-Inhalten.

Das genaue Alter von KI-erstellten Menschen ist nicht feststellbar und auch auf das verwendete "Trainingsmaterial" hat man als reiner Promptnutzer keinen Einfluss.
Vor allem hierbei müssten die Plattformen eigentlich sehr transparent sein...

Weiteres Beispiel wäre:
§166 StGB (in AT §188 StGB) und z.B. Shrimp Jesus.

Vor allem nach dem österreichischen StGB dürften einige Youtube-Videos die das Bild genutzt und ihren Kommentar zum christlichen Glauben rausgelassen haben durchaus als "Herabwürdigung" gelten.

 

[Alphanerd]

Sehr gut. Wieviel ist Elon gerade wert?

Also so ca 800 Mrd an Schmerzensgeld wären angemessen. Danach bitte noch einen Strafprozeß.

 

[Dr. Chaos]

Man könnte ja auch ein Küchenmesser nehmen und damit jemand töten, ist dann der Hersteller dieses Messers für den Tod verantwortlich?

Sorry aber das ist ein selten dämlicher vergleich!
Der Hersteller des Messers hat keine Kontrolle darüber was der Besitzer mit dem Messer macht, X kann sehr wohl kontrollieren was mit der KI gemacht wird!

Ich find es echt stark, dass die 3 sich wehren und dagegen klagen! Wer sowas verteidigt hat halt echt den Schuss nicht gehört find ich

Da kann ich nur zustimmen!

 

[Dr. Chaos]

Ich bin allgemein gegen Zensur.

Vielleicht informiert du dich mal was genau Zensur ist!

"Unter Zensur versteht man die staatliche oder institutionelle Kontrolle, Überprüfung und gegebenenfalls Unterdrückung von Informationsinhalten, Meinungsäußerungen oder künstlerischen Werken."

Das eine KI keine Pornos erstellen kann, hat absolut nichts mit Zensur zutun!

Ich sehe hier nur eine Teilschuld bei Grok bzw dessen Betreibern.

Nein Grok ist zu 100% Schuld, genau wie die Ersteller!
Wenn ich dich zur Bank fahre, dort Wache schiebe, dir helfe das gestohlene Geld einzuladen, und dann mit dir flüchte, bin ich genau so am Bankraub beteiligt und genau so schuldig.

Wenn jemand Bilder mit Kinderpornografischem Inhalt zB per Photoshop erstellt und wie auch immer verbreitet wird auch nicht Adobe verklagt.

Schon wieder so ein unsinniger Vergleich, der hier gar keinen Sinn ergibt.

 

[aluis]

Ich verstehe das Problem nicht, wird Photoshop dann auch verboten? Oder bekommt Gimp dann eine Nacktblockierfunktion?

Kumpel kann sehr realistisch mit dem Bleistift umgehen. Der kann alles, keiner käme auf die Idee Bleistifte zu verbieten.

Damit ist es doch eindeutig, nicht das Werkzeug, sondern der Täter muss zur Rechenschaft gezogen werden.

 

[mmdj]

Sorry aber das ist ein selten dämlicher vergleich!
Der Hersteller des Messers hat keine Kontrolle darüber was der Besitzer mit dem Messer macht, X kann sehr wohl kontrollieren was mit der KI gemacht wird!

hauptakteur ist hier der täter und nicht xai, aber klar, sowas kann halt nur durch eine klage geregelt werden.

 

[Lilz]

@TD1334 Ja ernsthaft. Du kannst das Werkzeug gerne verklagen, wenn dir danach ist. Und eine KI ist nunmal ein Werkzeug. Du solltest aber nicht den Betreiber verklagen, wenn du das Werkzeug missbrauchst.

[...]Das eine KI keine Pornos erstellen kann, hat absolut nichts mit Zensur zutun!

Wie bitte? Erstens kann die KI das, zweitens wäre es nach deiner Definition ja Zensur, wenn künstlerische Werke unterdrückt werden. Worunter Pornos auf jedenfall fallen können.
Das etwas illegales damit gemacht wird, ist ein ganz anderer Punkt.
Und nach deinem tollen Beispiel, mir einen unsinnigern Vergleich zu unterstellen ist schon ein wenig lustig, danke für den Lacher.

 

[Bruzla]

Ich find es echt stark, dass die 3 sich wehren und dagegen klagen! Wer sowas verteidigt hat halt echt den Schuss nicht gehört find ich

Du hast Recht. Mir kommt die Galle hoch wenn jemand sagt "Mit sowas müssen wir eben jetzt leben lernen, als man das Auto erfunden hat, waren die Leute auch erst dagegen".

Es gibt 100% aktuell schon zu viele fragwürdige sexuelle Inhalte, wir brauchen wirklich auf gar keinen Fall eine zugängliche AI die noch mehr davon macht und auch noch unbeteiligte schädigt.

Das ist kompletter Irrsinn in meinen Augen.

 

[Uzer1510]

Naja es iat allerdings in ALLEN westlichen Rechtssystem ein Basisgrundsatz (Mit-)Schuld hat nur wer eine Tat BEWUSST begehst und mit Vorsatz.

Eine AI hat beides nicht - es ist eben weitgehend nur ein dummes Werkzeug (zumindest aktuell)

Wieso ist das mit dem Photoshop ein unsinniger Vergleich - AI setzt genauso wie Photoshop nur das um was der Bediener vorgibt - komplett ohne eigene Motive oder zu "verstehen" was die Zahlen die reinkommen oder rausgehen bedeuten - es wird halt die Zahlenreihe xy umgerechnet nach z ob das das Ergebnnis z ein Kipobild ist oder die Bauanleitung für eine Hundehütte oder ein Abwurfplan für Bomben im Iran ist für die AI ohne auch nur irgendeinen Unterschied - das ist alles identisch eben nur die Zahlenreihe.

Man kann eben nur sagen ja man muss alle erzeugten Bilder halt überprüfen aber da ist halt das Problem bei echter Kipo gibt es genug Hashes etc bei erzeugter weil eben fikitiv fällt das weg denke nicht dass z.B. Gesichter auf "atomarer" Ebene 1:1 übernommen werden sie sind halt nur zu 70 oder 80% ähnlich. Denn ein AI Netz ist eben KEINE Datenbank in der Informationen 1:1 stehen. Keine einzige Infomation findet sich darin tatsächlich als 1:1 sondern nur mit anderen Dingern verrechnet - aber nie mehr 1:1 extrahierbar. Komplett irrelevante Netze mit mehr Knoten udn Knotentiefe als digitale Informationen mal aussen vor das sind ja komplett unrealistische Gedankenexperimente.

 

[blubberbirne]

Es wird die Frage bleiben, ab wann es der Hersteller billigend in Kauf genommen hat, das sowas passiert. Reicht es schon, wenn strafrechtlich verbotene Aktionen in den AGBs verboten werden?

Grok wurde mehrfach darüber informiert das dort Kinderpornographie erstellt wird. Gehandelt hat niemand.
Wie lange sollte man da bitte warten? Handlungsbedarf ist ab den ersten generierten Bild da. Hat aber anscheinen niemanden dort gejuckt.

 

[Cpt.Willard]

Nicht gegen die Täter wird geklagt, sondern gegen den Tool-Hersteller.
Warum? Weil es dort natürlich "Millarden" zu holen gibt.

Naja, der Tool-Hersteller sollte die Möglichkeiten zumindest soweit einschränken, dass jede Form von Schlagwörtern nicht benutzt werden kann um derart Machwerke zu gestallten.

Oder einfach gleich mit den Behörden zusammen arbeiten, wenn sich da irgendwelche Leute dieser Technologie für pervertierte Zwecke bedienen - ob nun solche Form oder auch zur Unterstützung anderweitiger krimineller und terrroistischer Zwecke.

 

[Leap]

Frage: Wenn ich solche Bilder nicht mit einer KI sondern mit Photoshop erstelle: Ist es dann auch legitim, wenn die Betroffenen Adobe verklagen? Letztlich habe ich auch nur mit der Hilfe deren Software dieses Bild erstellt und anschließend verteilt.

Der Vergleich hinkt. Das Bild wurde nicht von Adobe, sondern allein vom Nutzer erstellt. Im Gegensatz dazu hat bei Grok nicht der Nutzer, sondern Grok das Bild erstellt. Der Nutzer war nur der Auftraggeber. Adobe hat auch nicht bei der Verbreitung geholfen. Grok hingegen schon, und zwar mit einer Reichweite, die du als privater Nutzer niemals erreichen würdest. Es ist richtig xAI hier in die Verantwortung zu ziehen. Zusätzlich zum Nutzer.

 

[DeusExMachina]

...
Aber letztendlich kann (und muss) man xAI hier dafür verurteilen, dass sie keine Sperren für solche Themen implementiert haben. Eine KI dürfte in der Lage sein gewisse Dinge zu erkennen.
...

Diese Sperren gab es
Musk hat angewiesen die Filtersperren zu reduzieren damit der Spicy Mode attaktiver wird
Das kann man nachlesen

Als Konsequenz haben die "User" sich stück für stück an den jetzt zu stand ran getastet
und xAI lässt sie gewähren

 

[Krik]

Wenn ich solche Bilder nicht mit einer KI sondern mit Photoshop erstelle: Ist es dann auch legitim, wenn die Betroffenen Adobe verklagen? Letztlich habe ich auch nur mit der Hilfe deren Software dieses Bild erstellt und anschließend verteilt.

Nein, das ist nicht das gleiche. Mit dieser Argumentation müsste man auch Papier verbieten und den Holzfäller verklagen, der das Rohmaterial beschafft hat, denn mit Papier kann man solche Verbrechen wie im Artikel auch machen.

Der Unterschied ist, Grok ist nicht nur passives Tool sondern ein aktives. Das Ding zeichnet ja am Ende und nicht der Idiot, der den Auftrag dazu gegeben hat.

Photoshop hingegen ist wie das Papier. Man kann damit alles mögliche Malen, aber es malt selber aktiv keine nackte Menschen.

Grundsätzlich brauchen wir in allen Ländern dringend eine gesetzliche Regelung zu KI-Inhalten.

Was sollen denn diese Gesetze bringen? Kinderpornos zu erstellen ist bereits verboten. Das ist ganz unabhängig von den Hilfsmitteln, die dazu verwendet werden können.

 

[OldboyX]

Das wird nichts werden.
Sonst hätte es schon erfolgreiche Klagen zum Verbot von Schusswaffen, Tabak, Alkohol, Autos und was auch immer noch gegeben.

Weiß nicht ob das ein guter Vergleich ist. Alle genannten Dinge unterliegen gesetzlichen Einschränkungen für Konsum bzw. Nutzung und Verkauf.
Tabak darf nicht beworben werden, Autos ohne Führerschein nicht gefahren usw.

KI Nutzung unterliegt aktuell eben gar keinen Einschränkungen bzw. haben die vernünftigeren Anbieter hier schon lange eingebaute Schutzmechanismen. Eine Möglichkeit wäre auch die Pflicht für den Anbieter einführen, dass bei pornographischen Inhalten der User von der Plattform eruierbar sein muss (Identitäsnachweis).

Die Leute die das machen gehören eindeutig bestraft und Plattformen gehören dabei zur Mithilfe verpflichtet und sonst zu Schutzmaßnahmen. Den angerichteten Schaden kann man hier nicht wiedergutmachen.

In AT ist das rechtlich wohl auch ganz klar. Anfertigen, Besitz und Weitergabe von Kinderpornographie ist strafbar. Wenn also eine generative KI das Material anfertigt, ist der Betreiber haftbar.

 

[MaverickM]

In Tennessee haben nun drei weibliche Teenager, zwei davon noch minderjährig, und ihre Erziehungsberechtigten eine Sammelklage gegen xAI eingereicht, wie die Washington Post berichtet. Ein einzelner Täter soll laut dieser Bilder und Videos von insgesamt mehr als 18 Mädchen zusammengestellt und einige davon mithilfe von KI digital verändert haben. Viele dieser Mädchen sollen zudem dieselbe Schule besucht haben.

Es ist widerlich, was mit xAI hier öffentlich und extrem einfach möglich ist, vor allem auch im Hinblick auf Kinderpornografie. Aber: Ich stelle mir hier trotzdem, unabhängig vom eigentlichen Thema, die Frage, warum überhaupt minderjährige Mädchen (mehrere/viele?) Fotos einfach von sich ins Netz stellen. Hier haben doch ebenfalls die Eltern oder wenigstens die Schule (Sollte Aufgabe der Eltern sein, aber die haben diese ja ebenfalls selten...) im Hinblick auf Medienkompetenz komplett versagt. Gerade als Frau sollte man doch extrem vorsichtig mit Fotos im Netz sein.

Abgesehen davon ist es gut, dass xAI - und quasi auch Musk - hier endlich mal Gegenwind bekommen. Ich bin zwar großer Freund von Selbstverantwortung und maximaler Freiheit, aber es muss halt - gerade, wenn diese Tools so einfach, unbedarft und öffentlich nutzbar sind - trotzdem gewisse Grenzen geben. Wenn jemand mit im Netz gefundenen Bildern lokal Dinge anstellt, lässt sich das kaum vermeiden. Aber öffentlich verfügbare Dienste sollten niemals derartige Möglichkeiten bieten.