News Sexualisierte KI-Inhalte: EU startet offizielles Verfahren gegen X und Grok

[RaptorTP]

Bei Nacktbildern ist da aber mehr als nur eine Grenze überschritten.

nichts anderes behauptet. Daher extra ein Beispiel mit "Bikini" gewählt.

Wie verhält es sich mit Kinderstars? Gehen da Bikinis klar weil berühmt?

Bist ein Fuchs. Kinder andere Baustelle. Hab ich schon erwähnt.
Hier muss ganz klar ordentlich geregelt werden. Keine Toleranz.
Wird es aber nie geben - ich möchte nicht EU weit sagen, aber gerade in Deutschland ist die Justiz viel zu weich.

Das Wohl des Kindes sollte mitunter an erster Stelle stehen.
Das muss natürlich vor solchen Aktion ebenfalls geschützt werden.
Da brauchen wir nicht drüber quatschen.

Vlt würde das Bild ja auch vor einem oder zwei Jahrzehnten hochgeladen. Da brauchte es noch viele Arbeitsstunden, ein Bild so zu verändern und keine 5 Sekunden.

Whataboutism? Was genau hat denn jetzt die Dauer der Erstellung solch eines z.B. Bildes damit zu tun?

Eigentlich hatte ich noch viel mehr geschrieben. Aber ich sehe wie ich schon wieder meine Zeit verschwende.

Whatever - Ihr habt recht und ich meine Ruhe. Mein Leben muss ich natürlich nach euren Ratschlägen überdenken. Ganz klar. Asche über mein Haupt.

 

[Meta.Morph]

Nur weil ich ein Foto von mir auf social media gestellt habe, habe ich nicht die Zustimmung gegeben, mir den Borat Badeanzug zu verpassen. Vlt würde das Bild ja auch vor einem oder zwei Jahrzehnten hochgeladen. Da brauchte es noch viele Arbeitsstunden, ein Bild so zu verändern und keine 5 Sekunden.

Als ich in der Schule zum ersten Mal in den PC-Raum durfte, war dies die erste Warnung: „Passt mit euren Daten auf bzw. gebt sie nicht preis!“ Was ist daraus geworden? Auf der anderen Seite kann ich es verstehen: Noch nie war es einfacher und reizvoller, ein Bild oder gar ein Video von sich oder anderen in den Äther zu schicken.

Es wird zudem immer einfacher, Bilder zu bearbeiten. Ich behaupte: Entweder wir halten das jetzt einfach aus, oder es wird richtig anstrengend. Anstrengend entweder für die Gerichte – denn die Flut an Klagen wird gewaltig sein – oder für die Politik, weil diese tatsächlich ihre Arbeit machen und die digitale Welt aktiv gestalten müsste.

Zum Thema „Aushalten“: Ernsthaft, Bikini-Bilder? Das Internet ist voll davon. Und sehr wahrscheinlich werden diese KI-Bilder noch nicht einmal anatomisch korrekt sein, sondern eher „schmeicheln“. Wen soll das eigentlich jucken? Haben wir es hier mit Erwachsenen zu tun oder verhalten wir uns alle wie Siebtklässler?

Apropos Kinder und Jugendliche: Warum entlassen wir ausgerechnet jene Gruppe, die qua Definition noch unsicher in ihrer Identitätsfindung ist, so mir nichts, dir nichts in die (a)sozialen Medien? Würde man das einschränken, wäre auch Cybermobbing – also das, was junge Menschen oft noch jahrelang verfolgt – zumindest erschwert.

Was die Politik betrifft: Wie wäre es, mal Politik für den Bürger zu machen? Ein konkreter Schritt wäre die Förderung des Fediverse. Jede größere Stadt oder Kommune sollte einen eigenen Server einrichten. Öffentliche und politische Kommunikation fände dann nur noch darüber statt. Auch der ÖRR sollte dazu verpflichtet werden. Man kann die Leute zwar nicht zwingen, sich dort anzumelden, aber es wäre ein starkes, seriöses Angebot. Sehr viele Menschen könnten die Plattform wechseln, ohne dass man sich erst mühsam auf eine Alternative einigen müsste (falls das bei einer Millionenbevölkerung und etablierten Plattformen überhaupt möglich ist).

Das wäre ein heftiger Schlag gegen die Tech-Oligarchen. Aber wie gesagt: Ich traue der Politik mittlerweile nur noch Schreckliches zu. Wenn also klar ist, dass wir auf die Politik nicht setzen können, dann bin ich für das „Aushalten“. Es sind nur Bikini-Bilder. Das ist am Ende völlig egal.

 

[Alphanerd]

Zum Thema „Aushalten“: Ernsthaft, Bikini-Bilder? Das Internet ist voll davon. Und sehr wahrscheinlich werden diese KI-Bilder noch nicht einmal anatomisch korrekt sein, sondern eher „schmeicheln“. Wen soll das eigentlich jucken? Haben wir es hier mit Erwachsenen zu tun oder verhalten wir uns alle wie Siebtklässler?

Es geht doch nicht um Bikinibilder. Es geht um consent/Zustimmung. Schmeichelnd oder nicht.

Keine Ahnung, wie man euch das erklären soll. Scheint vergeblich zu sein.

 

[Meta.Morph]

@Alphanerd
Recht am eigenen Bild, erklären brauchst du mir nichts.
Und dennoch. Heute ist es Grok, Morgen ist es Software XY die so Funktioniert wie bspw. ComfyUI nur ohne den ganzen Technischen Overkill. 1 Klick Installation und 1 Klick Deepfake. Die Gerichte werden nicht mehr hinterher kommen.

Und hier mein Rat: LADET VERDAMMT NOCHMAL NICHTS HOCH!
Auch wenn das Internet von manchen als Neuland begriffen wird, es war noch nie ein netter Ort! Es ist diese miese Spelunke im Bahnhofsviertel.

 

[Ironbutt]

Unabhängig davon ist es ja weder Musk persönlich, der die KI betreibt, noch Musk persönlich, der die Bilder generiert. Und viele Andere haben es hier ja genauso angemerkt: die persönliche Kritik an Musk, wohl wissend, dass derartige Fauxpas bei anderen KI-Betreibern genauso passieren

Wem gehört X und X-AI? Wer hat, als Kritik aufkam, "f*ck oft" gesagt? Als Kopf einer Firma muss man ihn auch hinhalten, wenn sie Mist baut.
Und ja anderen passiert das auch, dann kommt ein halbherziges "sorry" und die Funktion wird eingeschränkt.

Mit Schutzbehauptungen kann die Herrschaft jedes Recht der Beherrschten brechen!
Wie sieht deine mögliche Reihe an Schutzmaßnahmen aus?

Recht der Beherrschten? Welche Rechte werden denn hier gebrochen?
Eine Schutzmaßnahme könnte sein, derlei Anfragen nicht zu beantworten.

Morgen ist es Software XY die so Funktioniert wie bspw. ComfyUI nur ohne den ganzen Technischen Overkill. 1 Klick Installation und 1 Klick Deepfake

Kannste machen. Bei dir zu Hause. In deinen eigenen vier Wänden.

 

[Lan_Party94]

Wenn Grok der breiten Masse eine Technologie zur Verfügung stellt, mit der illegale Tätigkeiten einfach durchgeführt werden können, sind sie selbstverständlich mitverantwortlich.

Also ist mein Internetprovider mitverantwortlich, wenn ich illegal etwas aus dem Netz lade?

So einfach kann man sich die Welt machen - vielleicht sollte man sich mal darüber Gedanken machen wer diese Menschen sind anstatt sich über Elon zu echauffieren? Ich bin zwar kein "Fan" von Musk, aber die Perversion von Anderen als Gräueltat von Elon darzustellen ist auch ziemlich "merkwürdig".

 

[Meta.Morph]

In deinen eigenen vier Wänden.

Und du glaubst, das es in den eigenen vier Wänden bleibt, weil ... ?
Alle Menschen nett sind?

Nachtrag:
Bei meinem Rat, nichts persönliches ins Internet zu Laden, geht es mir ausschließlich um die Anerkennung der Realität.

 

[Meta.Morph]

Auch wichtig ist mir:
Ich bin immer angestrengt, Elon Musk und co. als das darzustellen, was sie sind; Feinde der Menschheit!

Was das Thema betrifft, wie gesagt, Heute ist es Grok, morgen Software XY.
Das entbindet denjenigen nicht seiner Verantwortung, der diesen Dienst öffentlich zur Verfügung stellt.

Ja, KI ist ein Werkzeug. Photoshop, Pinsel, Camera sind auch Werkzeuge.

Dann stellt euch mal folgende Frage:
Mit einer Kamera kann man ein Sextape erstellen. Darf man das auf Youtube laden?

 

[Dark_Soul]

Also ist mein Internetprovider mitverantwortlich, wenn ich illegal etwas aus dem Netz lade?

Nein, wie kommst du darauf? Was hat das mit Grok oder X zu tun?

 

[Lan_Party94]

@Dark_Soul Du sagst Grok/X/Elon Musk sind an diesen Bildern "schuld", doch der schuldige sollte eigentlich der User sein, weil der User diese Bilder erstellt hat.
Somit bin ich fein raus, wenn ich mir etwas illegal aus dem Netz lade, weil mein Internetprovider lässt es zu bzw. gibt mir die Möglichkeit dazu.

Das hat insofern damit zu tun das Grok/X/Elon Musk nicht für den geistigen Zustand der User verantwortlich ist - höchstens muss Musk gegen deren Schwachsinn vorgehen.

Mein Problem ist das Musk hier als "Notgeiler Perversling" stilisiert wird, obwohl die User selbst diejenigen sind die an den Pranger gehören.

 

[Incanus]

Mein Problem ist das Musk hier als "Notgeiler Perversling" stilisiert wird,

Keine Ahnung, wo Du so etwas herausliest, weder im Artikel noch im Thread ist davon die Rede. Es geht nicht um ihn, sondern eine Funktion einer Software, die die Bearbeitung für jeden Laien ermöglicht, was gar nicht nötig ist.

 

[Dark_Soul]

Dein Vergleich ist einfach zu weit hergeholt. Netzbetreiber kümmern sich darum Daten zu übertragen. Die haben rein gar nichts mit dem Thema oder meiner Argumentation zu tun. Groks Technologie ist überhaupt nicht damit vergleichbar.

 

[Alphanerd]

Mit einer Kamera kann man ein Sextape erstellen. Darf man das auf Youtube laden?

Versuche es mal. Wird nicht klappen. Und wenn doch, wird es schnell gelöscht werden und dein Account gesperrt.

Aber auch hier ist wieder etwas freiwillig geschehen: die Aufnahme. Das ist immer noch ein Unterschied.

 

[Meta.Morph]

@Alphanerd
Ich verstehe gerade nicht, warum du diesen Satz von mir zitiert hast – das war doch gar keine Gegenrede.

Aber auch hier ist wieder etwas freiwillig geschehen

Ernsthaft? Wie passiert wohl Cybermobbing? Aufnahmen werden gemacht, auch wenn nicht alle Beteiligten ihr Okay dazu geben oder diesem speziellen Verwendungszweck zustimmen. Das passiert aus Rache, Neid, Streit oder schlichtem Geltungsdrang – whatever.

Mein Punkt bleibt: KI ist ein Werkzeug. Genau wie Photoshop oder eine Kamera.

Wird nicht klappen

Eben. Selbst wenn die Beteiligten das freiwillig gemacht haben: YouTube will diesen Content (aus Gründen) nicht, also findet er dort auch nicht statt. Ob das auf andere Plattformen übertragbar ist? Bestimmt.

Es ist bedauerlich, aber so blöd es auch ist: Das Internet ist kein netter Ort. Alles andere zu glauben, ist Naivität hoch zehn!

Eigentlich können wir noch von Glück reden: Wenn man sich auf X umschaut, scheint der Hass des Durchschnittsusers oft größer zu sein als dessen Intelligenz. Mit lokaler KI wäre technisch nämlich noch so viel mehr möglich.

Aber dennoch: KI ist nur ein Werkzeug.

---

Wem X missfällt, der darf auch nicht auf Pinterest gehen. Dort kann man sich solche Bilder haufenweise ansehen: Bikini-Deepfakes von Promis und Charakteren, die extrem jugendlich wirken. X hat hier lediglich das „zweifelhafte Pech“, eine so enorme Reichweite zu haben...

Noch einmal: Nichts liegt mir ferner, als den Eindruck zu erwecken, ich ließe auch nur ein gutes Haar an Musk.

Aber wenn die Politik bzw. die Gesellschaft wirklich einen sicheren Ort im Internet will, dann lautet die Aufgabe: selber machen! Ansonsten bleibt uns nur, die Realität zu akzeptieren.

Und die Realität ist: man kann X dazu bringen, Filter einzubauen. Der missbrauch von Bildern wird aber nicht aufhören, er wird zunehmen. Hier hilft nur, man kann es nicht oft genug sagen: Ladet nichts hoch.

 

[ascer]

weder im Artikel noch im Thread ist davon [Musk persönlich] die Rede. Es geht nicht um ihn [Musk als Person], sondern eine Funktion einer Software,

Nur drei Posts über dir:

Auch wichtig ist mir:
Ich bin immer angestrengt, Elon Musk und co. als das darzustellen, was sie sind; Feinde der Menschheit!

@Meta.Morph habe diesen Post jetzt nur exemplarisch genommen - hätte auch jeder andere in dieser Richtung sein können.

@Incanus du siehst also, dass es sehr wohl auch um die Person geht. Vielen hier und auch vielen in der Politik. Insbesondere bei Interesse an einem freiheitlichen Rechtsstaat sollte aber argumentiert werden:

1. Gleiche Regeln und gleiche Ahndung für alle - nicht bei ABC schauen wir besonders schnell oder genau hin, weil XYZ (egal welche Person das nun konkret ist) uns nicht gefällt
2. Aktivismus außen vor lassen - Ideologie und Politik sollte nicht mit Rechtsprechung vermischt werden
3. Klare Trennung von Dienstanbieter (sowie etwaigen Vorgaben, die erfüllt oder nicht erfüllt sind) und eigentlichen Tätern (bei Revenge Porn beispielsweise ist ja auch die jeweilige Videoplattform maximal bzgl. Moderationspflichten und Konsorten verantwortlich - Haupttäter bleibt derjenige, der den Inhalt mutwillig produziert und veröffentlicht). Und Dienstanbieter ist hier ja auch X, nicht Musk.

 

[grabeskuehle]

Wo in der Kamerasoftware gibt es denn die Funktion aus harmlosen Bildern, die man sich irgendwo beschafft hat pornographische zu machen?

Es gibt in der Kamerasoftware genausowenig eine Funktion, welche erkennt, ob man gerade dabei ist spezifisches pornographisches Bildmaterial zu erstellen und die Speicherung dessen zum Beispiel im Falle von illegalität zu Unterbinden oder mit bestimmten Wasserzeichen für die Strafverfolgung zu versehen.
Zumindest hätte ich noch nie davon gehört oder gelesen.
Ich sage auch nicht, das es so eine Funktion geben müsste, sondern dass ebendies nie ein Thema war.
Die Kamera oder deren Hersteller ist ja nicht dafür Verantwortlich, wenn das Gerät für illegale Zwecke missbraucht wird.

Edit: Scanner und Drucker haben afaik sogar so eine Funktionalität, dort allerdings bezogen auf die Erstellung von Falschgeld.

Ja und nein. Was du in deinem Keller oder Garten machst, sei erstmal dir überlassen (solange dabei niemand zu Schaden kommt). Da X als soziales Netzwerk einen öffentlichen Raum darstellt und sie obendrein noch Anbieter der KI sind, sind sie sehr wohl mitverantwortlich. Oder um den Autovergleich zu bemühen, es darf X durchaus zugemutet werden ihre KI mit einem Spurhalteasistenten auszurüsten.

Gut, damit kann ich d'acord gehen.
Das darunterliegende Problem wird der "Spurehalteassistent" allerdings auch nicht lösen, lediglich verlagern.

 

[Meta.Morph]

du siehst also, dass es sehr wohl auch um die Person geht.

Ich hab aber auch geschrieben:

X hat hier lediglich das „zweifelhafte Pech“, eine so enorme Reichweite zu haben...

Das ist es doch.
Da findet LEIDER Öffentlichkeit statt.
Als der Spruch mit dem Neuland fiel; ja, ich glaube tatsächlich, das dass der Erkenntnishorizont eines Politikers ist. Ich kaufe denen ab, das die auf X gehen und denken das, dass das Internet wäre.

Das so viele Lander rechtliche Schritte prüfen, wird sicher den einfachen Grund haben, das es dafür eine rechtliche Grundlage gibt.

Nun weiß ich nicht, wie das rechtlich klar gehen kann, das Pinterest Bilder von Kinder in Bademode zeigen kann. Natürlich mag das Vordergründige Argument sein, das man vor allem Bademode präsentieren will. Aber hier wird eins deutlich, der eine Sucht tatsächlich inspiration und der andere ... etwas anderes.
Aber so gibt es unzählige Seiten im Internet, die unter dem Radar fliegen.

Am Beispiel von Youtube sieht man doch, wie man eine Plattform von Inhalten sauber halten kann, die man nicht will.

Unter uns: Gewalt, Betrug und Radikalisierung ja, Titten nein. Auch irgendwie Krank...

 

[Incanus]

du siehst also, dass es sehr wohl auch um die Person geht. Vielen hier und auch vielen in der Politik. Insbesondere

Das ist einfach eine Interpretation Deienrseits, wie man aber damit dem Missbrauch von Frauen und Kindern rechtfertigen kann, verstehe ich nicht. Und nur weil es hier um einen Dienst geht heißt das nicht, dass nicht auch gegen andere vorgegangen wird. Da eine Hexenjagd gegen Elon Musk herbeizufantasieren ist doch hanebüchen.

Es gibt in der Kamerasoftware genausowenig eine Funktion, welche erkennt, ob man gerade dabei ist spezifisches pornographisches Bildmaterial zu erstellen

Und was hat das nun mit dem Thema zu tun? Um mit einer Kamera eine pornographische Szene zu filmen, muss sie existieren. Bei einer KI generierten ist das nicht der Fall. Wie man da überhaupt in einen Verteidigungsmodus gehen kann, ist mir rätselhaft,

 

[grabeskuehle]

@Incanus Also Verteidigungsmodus würde ich das noch nicht nennen
Der Punkt auf den ich hinauswollte war ja, das man sich in beiden Fällen als Ersteller straffällig macht, ob die Szene nun real existiert oder nicht.
Und in beiden Fällen sind Kamera und KI nur Werkzeuge, ob die Szene nun existiert oder nicht.

 

[ascer]

Das ist einfach eine Interpretation Deienrseits

Es wird ein (einfaches) Feindbild (in diesem Fall eben Musk persönlich) aufgebaut und ganz klar ideologisch verfolgt - das Motiv wird häufig (wie auch hier) ja sogar direkt genannt. Es geht beiläufig und teils hauptsächlich um die moralische Oberhand, eine Moralisierung generell und darum, dass Feindbild persönlich anzugreifen und bloßzustellen.

Die Gegenfrage lautet: wie kannst du aus einem so klar formulierten Motiv die persönliche Ebene und die Feindbildstilisierung "herausinterpretieren"? Im Thread und auch seitens Politik steht es manchmal zwischen den Zeilen, aber eben häufig - wie in dem exemplarischen Beispiel - wird es ganz klar und offen als Ziel genannt.

Man kann sich sicherlich darüber streiten, was das Hauptziel ist und ob die persönliche Ebene und Feindbildstilisierung (gegen Musk) nur einen Nebenschauplatz darstellt...aber wie man dies gänzlich "herausinterpretieren" möchte, ist mir schleierhaft.

Unabhängig davon würde ich behaupten, nichts dort "hineinzuinterpretieren", da ich kein qualitatives Urteil darüber fällen wollte, inwieweit das ("Feindbild Musk" in diesem Fall) jetzt das Hauptziel ist oder nicht - sondern lediglich aufzeigen, dass diese persönliche Ebene stattfindet (und weder in einem freiheitlichen Rechtsstaat noch in der rechtlichen Ahndung der Vergehen stattfinden sollte).

wie man aber damit dem Missbrauch von Frauen und Kindern rechtfertigen kann, verstehe ich nicht

Bleiben wir bei deinem gezeichneten Bild "Interpretation": wie interpretierst du denn in die folgende berechtigte Kritik...

1. Gleiche Regeln und gleiche Ahndung für alle - nicht bei ABC schauen wir besonders schnell oder genau hin, weil XYZ (egal welche Person das nun konkret ist) uns nicht gefällt
2. Aktivismus außen vor lassen - Ideologie und Politik sollte nicht mit Rechtsprechung vermischt werden
3. Klare Trennung von Dienstanbieter (sowie etwaigen Vorgaben, die erfüllt oder nicht erfüllt sind) und eigentlichen Tätern (bei Revenge Porn beispielsweise ist ja auch die jeweilige Videoplattform maximal bzgl. Moderationspflichten und Konsorten verantwortlich - Haupttäter bleibt derjenige, der den Inhalt mutwillig produziert und veröffentlicht). Und Dienstanbieter ist hier ja auch X, nicht Musk.

...eine Rechtfertigung von Missbrauch?

Gleiche Regeln und Ahndung bedeutet nichts weiter, dass man X (oder Musk) nicht für Dinge auf Basis ideologischer oder politischer Abneigung härter/schneller/... bestrafen sollte, sondern genauso wie alle anderen Verstöße.

Aktivismus & Co. außen vor zu lassen bedeutet auch nicht, dass man die Straftäter davonkommen lassen sollte. Nur, dass man Aktivisten in der rechtlichen Beurteilung außen vor lässt. Meiner Meinung nach unabdinglich für einen freiheitlichen Rechtsstaat (klare Gewaltentrennung).

Und Trennung von Dienstanbieter, Verantwortlichen, Haupttätern, ... bedeutet ebensowenig, dass es keine Strafe geben sollte, sondern das man sauber trennt - je nach Verstoß.
X kann man - je nach Gesetzeslage und typischer Rechtsprechung - eben Versäumnis von Moderationspflichten und insbesondere unzureichende oder nicht erfüllte TOMs vorwerfen, im EU Raum Verstöße gegen den EU AI Act usw.
Musk allenfalls noch, dass er auf Sicherheitsbeauftrage nicht gehört hat und keine ausreichenden Maßnahmen getroffen hat.
Haupttäter bleibt aber natürlich rechtlich derjenige, der KI dazu angestiftet hat und das Ergebnis dann veröffentlichte.