Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsTeenagerinnen verklagen xAI: Bilder von sexuellem Kindesmissbrauch durch Grok AI
Wie kommt es denn eigentlich dass jede News zum Thema "KI" so negativ behaftet ist? Wo sind die lebensverändernden Möglichkeiten die immer beworben und sogar von Leuten in Foren nachgeplappert werden?
Lug, Betrug und Sexualisierung sind doch das tägliche Brot jeder KI oder sehe ich das falsch?
Das xAi diesen Missbrauch bewusst Tür und Tor geöffnet hat und seit Monaten nach dem Motto "wir haben Geld und haben Recht" aussitzen ist eine Schade.
Hier werden keine merkwürdigen und realitätsfernen Forderungen nach Bestrafung der Täter kommen.
Das die Täter bestraft werden müssen ist unstrittig
Aber auch die die der Straftat aus reiner Gewinnsucht Vorschub leisten. Die ganz besonders und wenn sie nach dem Motto "wir haben Geld wir haben Recht" agieren kann man zumindest das eine Ändern und sie dann wie normale arme Leute bestrafen.
In dem Sinne hoffe ich das die drei Janes die schmierigsten, gierigsten und wickeladovokatischsten Drecks*cke von gewissenlosem Rechtsverdreher als Anwälte haben, die sie bekommen konnten, und das es Elon so viel Geld kostet das normale Menschen erstmal nach schauen müssen wie viele Nullen die Zahl überhaupt hat.
-----
Und es ist auch eine Schade das bei uns eher eine Aufweichung der Bürgerrechte diskutiert wird (Chatkontrolle) als das Quellen wie diese Konsequent abgeschaltet werden
Ich bin nicht wirklich im Thema drin - muss ich direkt zugeben.
Das hier die KI Bilder erstellt welche nicht - wie bei den meisten anderen - komplett zensiert werden, kann man finden wie man will. Ich bin allgemein gegen Zensur. D.h. aber nicht, dass man verbreiten kann was man will, vorallem mit der Absicht anderen zu schaden. Ich sehe hier nur eine Teilschuld bei Grok bzw dessen Betreibern.
Die eigentliche Schuld liegt doch bei den erstellern der Prompts und vorallem bei der Verbreitung. Und meiner Meinung nach sollte dort auch die Schuldfrage und Strafe angesetzt werden.
Wenn jemand Bilder mit Kinderpornografischem Inhalt zB per Photoshop erstellt und wie auch immer verbreitet wird auch nicht Adobe verklagt.
Finde ich gut auf. Irgendwo hört der "Spaß" auf und Unternehmen sollten auch zur Verantwortung gezogen werden. Jeder von uns muss dafür gerade stehen, wenn er Mist verzapft - nur die Großkonzerne können tun und lassen was sie wollen und bleiben ungestraft?! Ich hoffe, das wird richtig teuer. Für die AI HW und alles Andere ist ja auch Geld ohne Ende verfügbar. Vielleicht führt das dann zu strengeren Regeln, an die sich auch gehalten wird.
Tja, so kommt es halt leider, wenn man Technik ohne richtige Kontrolle loslässt. Ich befürchte aber auch, dass es bereits zu spät ist, das einzudämmen. Sollten hier Strafen folgen müssen diese Extrem sein, sonst wird sich da nicht all Zuviel bewegen.
Ich hoffe sie haben Erfolg mit ihrer Klage.
Auch wenn ich glaube, dass die Hauptschuld bei dem verhafteten Mann liegt, so hat die KI und somit das Unternehmen im Hintergrund doch die Drecksarbeit im Auftrag übernommen.
Logisch - verklagt das Werkzeug, nicht den Nutzer.
Wenn ich mit einem Hammer jemanden erschlage wird ja auch konsequent der Baumarkt verklagt, der ihn mir verkauft hat. Und ich bleibe unbehelligt.
Man muss hier aber auch aufpassen, dass Grok AI und Elon Musk nicht stigmatisiert werden.
Selbstverständlich handelt es sich um ein großes Problem, dem mit allen nötigen Mitteln Einhalt geboten werden muss, aber diese Art der Bildgenerierung ist ja nicht erst seit xAI möglich.
Das eigentliche Problem betrifft also grundsätzlich erst einmal alle Bild- und Videogeneratoren da draußen.
Gleichzeitig bekommt das Thema aber auch wieder ein "Geschmäckle", wenn Schadenersatzforderungen in Millionenhöhe die Runde machen. Ob hier seitens der Kläger wirklich primär an das Wohl der Kinder gedacht wird, stelle ich einfach mal fragend in den Raum.
Nein, weil der Hersteller Sicherheitsmechanismen nicht eingebaut hat. Zudem dürfte in den USA auch das zugänglich machen solcher Inhalte strafbar sein. Und gegen den Täter laufen noch Ermittlungen, nicht selten werden diese erst abgewartet. Wird er in der Sache verurteilt, ist das eine gute Grundlage für eine Zivilklage, weil die Tat ja schon erwiesen ist.
Leider bekämpft das nicht das Grundproblem, dass sich an sich jeder lokal ein LLM installieren kann und dann dort Blödsinn mit treiben kann. Da befürchte ich wird auch viel auf Schulhöfen "gehandelt".
Zwar nicht 100% deterministisch, aber man kann zumindest zu einem gewissen Maß AI Modelle Verhalten beibringen, solche Tasks nicht auszuführen. Das könnte statistisch geprüft und Test vor Veröffentlichung eingefordert werden. Alles andere ist kriminell.
Unsere Politik ist wie so viele Menschen mit dem Speed der Tech halt überfodert
Ein äußerst schwieriges Thema und am liebsten würde ich allen Postern/Meinungen hier ein Like geben. Natürlich gehören in erster Linie die Täter bestraft, doch haben diese auch vgl mit anderen Verbrechen ein viel zu leichtes Spiel mit der KI.
@Majestro1337 Das ist ein sehr schlechter Vergleich.
In diesem speziellen Fall gab es die bewusste dokumentierte Entscheidung von Mr. E dem xAi gehört die Filterfunktionen zu reduzieren um sein "KI" Produkt attraktiver zu machen.
Das die Nutzer das dann benutzen um so was zu erstellen (und alle Bilder die sie erstellt haben kann man öffentlich einsehen) ist zwar die evtl Straftat des Users. Aber nur weil das Werkzeug das über eine Schutzfunktion verfügte um diese Reduziert wurde.
Also um bei deinem Beispiel zu bleiben Tauschen wir doch den Hammer gegen eine MP und entferne alle Sicherungen und sagen dann upsi wie konnte es passieren das jemand verletzt wird
Blöde Analogie, aber wenn der Hammer aller anderen Hersteller ne Sicherung eingebaut hat die das Erschlagen von Menschen verhindert und ein Hersteller offensichtlich drauf pfeift, kann man zumindest von Fahrlässigkeit ausgehen. Vielleicht auch von Absicht...
Dies sei vor allem deswegen möglich gewesen, da das Unternehmen keine branchenüblichen Sicherheitsvorkehrungen getroffen habe, die Missbrauchstäter daran hindern würden, entsprechende Bilder zu erstellen.
Man sieht ja schon an den Kommentaren, dass die Schuldfrage hier nicht so eindeutig ist.
Das wird ein interessanter Prozess.
Meiner Meinung nach gilt das Werkzeug Argument allerdings nur bedingt.
Ja KI ist ein Werkzeug, aber im Unterschied zum Hammer ist es technisch durchaus möglich die missbräuchliche Verwendung einzuschränken.
Das hat der Anbieter eben nicht ausreichend getan.
wird hier nur xAI verklagt, oder auch die Person welche dieses Bild generieren liess? Man könnte ja auch ein Küchenmesser nehmen und damit jemand töten, ist dann der Hersteller dieses Messers für den Tod verantwortlich?
Damit möchte ich nicht xAI in Schutz nehmen, aber was genau ist mit dem Täter (Person)?
Du kannst das Messer gar nicht kaufen. Messer sind Betriebsgeheimnis. Stattdessen steht jemand mit einem Messer in der Fußgängerzone und schreit Tag und Nacht lauthals: "ICH HABE EIN MESSER UND MACHE DAMIT ALLES, WAS IHR WOLLT!!!"
Manche finden das praktisch und lassen sich ihr Gemüse schneiden. Andere haben weniger legale Ideen.
Zu Punkt 2 muss man den Ablauf kennen und was Xitter unternommen hat, als es publik wurde. User können Grok unter einem geposteten Foto mit Anweisungen taggen. Grok generiert ein editiertes Foto und postet es für alle User öffentlich einsehbar. Als Reaktion auf den Shitstorm wurde die Funktion nicht mal vorübergehend abgeschaltet, sondern nur auf zahlende User eingeschränkt. Generierte Bilder wurden zum Teil gelöscht, zum Teil als "anstößiger Inhalt" markiert.
Als nicht-Anwalt fallen die "Täter" damit eher in die Kategorie Anstiftung. Xitter dagegen betreibt, wohlgemerkt unter großem Aufwand, einen absichtlich nicht abgesicherten Service.
Der Unterschied ist, dass jedes Messer erstmal auch eine Waffe ist. Aber hier hat man ja die Möglichkeit die AI dahingehend zu reglementieren, dass sowas nicht geht.
Stell dir vor Sony bringt eine Kamera raus, bei der alle Fotos von Menschen automatisch nackt dargestellt werden können. Dann trägt Sony daran durchaus Schuld, auch wenn die Kamera an sich erst mal nur ein Werkzeug ist.
Ich bin nicht wirklich im Thema drin - muss ich direkt zugeben.
Das hier die KI Bilder erstellt welche nicht - wie bei den meisten anderen - komplett zensiert werden, kann man finden wie man will. Ich bin allgemein gegen Zensur.
Das hat ja nichts mit Zensur zu tun. Es geht hier ja um deine Persönlichkeitsrechte. Die gehören nur dir. Keinem Anderem und vor Allem keiner KI. Sobald Werkzeuge Schäden anrichten können, wie Autos, gibt es Regularien, wie Führerschein oder Not-Stop-Assissten.
Lilz schrieb:
D.h. aber nicht, dass man verbreiten kann was man will, vorallem mit der Absicht anderen zu schaden. Ich sehe hier nur eine Teilschuld bei Grok bzw dessen Betreibern.
Die eigentliche Schuld liegt doch bei den erstellern der Prompts und vorallem bei der Verbreitung. Und meiner Meinung nach sollte dort auch die Schuldfrage und Strafe angesetzt werden.
Es gibt ja 2 Fälle. 1. Das Erstellen und Verbreiten und 2. Die Bereitstellung und Zugänglichkeit von Werkzeugen und Mitteln. Zum Schutz der Minderjährigen und der Persönlichkeitsrechte sind die Einzuschränken.
Lilz schrieb:
Wenn jemand Bilder mit Kinderpornografischem Inhalt zB per Photoshop erstellt und wie auch immer verbreitet wird auch nicht Adobe verklagt.
Nein, das stimmt. Hier sind die Hürden auch wesentlich höher. Die KI muss diese Hürden auf andere Art und Weise umsetzen. Das Persönlichkeitsrecht wiegt immer höher. Am Ende darf man die KI dafür ja eh nicht nutzen und daher kann es auch direkt unterbunden werden.
Klar spielt solch ein Thema allen KI-Hassern hier im Forum in die Karten.
Aber letztendlich kann (und muss) man xAI hier dafür verurteilen, dass sie keine Sperren für solche Themen implementiert haben. Eine KI dürfte in der Lage sein gewisse Dinge zu erkennen.
Aber dass hier der Eindruck entsteht, dass alles nur die Schuld der "KI" (ganz allgemein) ist, finde ich sehr einseitig gedacht. Das Ganze hätte man auch mit "herkömmlichen" Mitteln erreichen können (und wird ja auch massenweise gemacht). Mit KI geht das nur wesentlich einfacher.
