News Sexualisierte KI-Inhalte: EU startet offizielles Verfahren gegen X und Grok

[Andy]

Dass mit xAIs generativem KI-Chatbot Grok massenhaft sexualisierte Bilder von Frauen und Kindern auf X generiert worden sind, führt zu Konsequenzen für Elon Musks Firmen. Nach weiteren Staaten hat nun auch die EU-Kommission ein offizielles Prüfverfahren eingeleitet.

Zur News: Sexualisierte KI-Inhalte: EU startet offizielles Verfahren gegen X und Grok

 

[AssassinWarlord]

Finde ich gut dass dahingehend mal was passiert, schon schlimm genug dass man Bildgenerierungs-KI überhaupt für sowas verwenden kann

 

[Matutin]

Too little, too late imho.

Aber heutzutage darf man ja schon froh sein, dass die EU überhaupt was macht.

 

[Rickmer]

Ich hatte mich schon gewundert, dass da noch nichts gekommen ist. Aber vermutlich haben die nochmal jedes 'i' auf Tüpfelchen und jedes 't' auf Strich geprüft.

 

[RaptorTP]

Also, wo fang ich an.
Zuerst einmal sind sämtliche KIs in den Kinderschuhen. Die wissen nicht was die da tun.
Wenn Promis gut dargestellt sind, wo ist das Problem? Gut, gibt genug die sich dann angegriffen fühlen.
Jeder Promi sollte wissen, das sowas auch Werbung ist Aber hey.
Ok, ist mir persönlich jetzt völlig wurscht und belanglos.

Bei sexueller Darstellung von Kindern bin ich bei euch.
Man sollte der KI Restrictions setzen und diese richtig trainieren damit sowas nicht möglich ist,
gleichzeitig sollte man aber auch Konten löschen die sowas anfragen.

Ich kann es nicht testen (hab keinen Zugang zu beiden Social Media Plattform, wie alles andere außer YouTube auch) Ich würde es auch nicht testen.

Promis wären mir viel zu langweilig. Das andere versteht sich von selbst.
Es gibt ja eigentlich genug Auswahl auf anderen Plattform sogar von Bewegtbildern. Sogar Cosplay, bei Bedarf. Also von Erwachsenen Person die mit oder gänzlich ohne Kleidung verschiedene Dinge tun.

Das sowas wie Promis mal in ein Bikini gesteckt werden ist doch völlig normal.
Mein Bruder sein Kopf bekam auch mal den Körper von Cameron Diaz. Wir fanden es damals witzig.
Damals wurde es noch ausgedruckt und rumgezeigt (nix Social Media)

 

[Nazrael]

Möge das allwöchentliche Zoll-Karussel beginnen

 

[longusnickus]

ein kampf gegen die hydra. das versteht die EU offenbar nicht
man geht gegen GROK vor und währenddessen schießen 10 andere KIs aus dem boden, die dasselbe machen!

hier ein aktueller artikel, der zeigt, dass das ganze nicht erst seit grok ein thema ist. welche KI hat es davor gemacht? welche wird es danach machen?
https://www.sueddeutsche.de/politik/deepfakes-strafrecht-shurjoka-li.3371587


dasselbe spiel wie bei WAREZ seiten. man geht gegen eine seite vor und gleichzeitigt kommen 10 neue
oder die EU versteht es und lebt einfach nur die persönliche vendetta gegen musk aus

 

[EL-Xatrix]

was hat man den vom internet erwartet wenn es so möglichkeiten gibt?

 

[evilhunter]

Die tolle neue Meinungsfreiheit. AI Slop zim Abwinken.

Bei den Plattformen muss sich einfach was tun vor allem wenn diese in Kontrolle von Technokraten wie Musk sind.

Es ist auch leider eine schmale Gratwanderung zwischen Zensur und Moderation der Inhalte.

 

[Col. Jessep]

AI im allgemeinen muss mehr reguliert werden, allerdings ist die EU alleine auf verlorenem Posten.

 

[Syrato]

Hoffen wir, dass es eine heftige Strafe nach sich ziehen wird!

 

[Kadett_Pirx]

"X verlagert die Verantwortung also auf die Nutzer, die entsprechende Inhalte erstellt haben"
... die ja auch die Verantwortung für das tragen, was sie erstellen und veröffentlichen

bezeichnend ist, wer alles gegen wen klagt und gegen wen nicht

 

[unique28]

Auch gegen Google und andere KI Firmen. Sonst hat das Ganze einen leichten Beigeschmack...

 

[ascer]

Dass mit xAIs generativem KI-Chatbot Grok massenhaft sexualisierte Bilder von Frauen und Kindern auf X generiert worden sind

Mal aus Interesse kurzfristig ein paar Hundert X Posts gescraped und fand bei zufällig ausgewählten nur 2 derartige Bilder von Frauen, sprich deutlich <1% der Posts. Wobei es natürlich sein kann, dass X da mittlerweile korrigierend unterwegs war und es deshalb jetzt anders aussieht.

Generell wirkt das imho eher wie eine Kampagne gegen Musk, basierend auf der generellen Schnappatmung, die EU und Linke bei Musk bekommen.

Grok hatte schon immer Sperren gegen illegale Inhalte. An der ein oder anderen Stelle funktioniert das LLM insgesamt (also auch die Sperren) schlichtweg weniger gut als ChatGPT oder Gemini. Entsprechende Fauxpas hatten aber alle Dienste schon. Man denke nur an das "Selbstmordmobbing" oder die "Waffenbauanleitungen" bei ChatGPT, die Drogenrezepte bei Google oder noch älter die Bildklassifikation, die Schwarze als Affen klassifiziert hat...

Selbst Photoshop wurde schon immer zum Erstellen von Fakes benutzt und "Revenge Porn" gibt es ja auch nicht erst seit gestern.

Zusammenfassend fehlt mir da ehrlich gesagt die Relevanz. Gerade die OpenSource-Modelle (auch die aus der EU, wie etwa Mistral) kann man lokal sehr leicht zum Erstellen illegaler Inhalte bewegen. Selbst auf YouTube habe ich schon Werbung für "AI Girlfriends" gesehen, was am Ende ja auch nichts anderes ist.

Ich würde behaupten, dass der einzige wirkliche Unterschied die Reichweite von X ist - und es halt für den Normalo einfacher/schneller ist, als eine der unzähligen Alternativen oder lokale Bildgeneratoren.

 

[Floorp]

AI im allgemeinen muss mehr reguliert werden, allerdings ist die EU alleine auf verlorenem Posten.

Wieso sollte man KI regulieren? Jeder Depp kann eine lokale KI laufen lassen. Da hilft Regulierung auch nicht.

 

[Slowz]

Ich sehe es schon kommen, Musk wird wieder mit Einschränkung von der ach so wichtigen "Free Speech" argumentieren. Was auch immer das nach seiner Definition bedeutet. Im Zweifel bezahlt er den "Schaden" aus seiner Portokasse. Von der US Regierung hat er aber sicherlich nichts zu befürchten.

 

[M@tze]

Eigentlich wollte ich nur schreiben, dass es dafür schon viel zu spät ist, es aber sicher nicht lange dauern wird, bis hier wieder die Ersten aufschlagen, die das alles relativieren und auch gar nicht so schlimm finden. Aber das dies gleich bei Beitrag #5 der Fall sein wird, hat mich dann doch etwas überrascht. 🤦‍♂️ 😔

 

[alyk.brevin]

da ich weder eines der bilder gesehen habe noch interesse habe, eins anzuschauen:
gehen die bilder darüber hinaus, was man im schwimmbad sehen kann?

natürlich verstößt sowas gegen grundgesetz (recht am eigenen bild) und dsgvo (datenverarbeitung ohne einwilligung), wenn die person auf dem bild nicht zugestimmt hat. da halte ich zunächst den anfragesteller für verantwortlich und nicht den diensteanbieter. genauso wie andere werkzeuge wie photoshop nicht verantwortlich sind.

aber ich hätte auch nichts dagegen, wenn twitter abgeschaltet würde.

 

[DonDonat]

Und was werden die Konsequenzen der wieder mal massiven Verfehlungen des Elon sein?
Ein paar Mio. $ Strafe, was für sein Vermögen nicht mal ein Klaps auf den Hintern ist sondern eher ein Haar dass ihm im Wind davon fliegt.

Ähnlich wie bei FB & Konsorten ist das Problem solcher Firmen neben den sinnvollen Straf-Summen Haftung: normal SOLLTEN Manager besser bezahlt werden, weil sie diese Haftung nun mal tragen und persönlich gerade stehen müssten, wenn was schief geht...
Heute aber sind Firmen genau dazu da Haftung zu reduzieren und somit wird das Konzept des Managers ad absurdum geführt, weswegen wir immer mehr in den Techno-Feudalismus abgleiten, ohne dass Regierungen Weltweit gewillt sind endlich wieder ein Gleichgewicht zwischen Mega Corp/Manager und Auto-Normal herzustellen.

Und das schlimmste an all dem ist, dass die "Anti System" Symbole wie die AFD genau das Gegenteil von dem machen, was die Leute von ihr erwarten. Nämlich, sie würden das unfaire System nicht nur stärken sondern massiv forcieren, bis zu dem Punkt an dem wir wirklich wieder in die Leibeigenschaft kommen weil keinerlei Rechte mehr für Auto Normal existieren...

Bleibt diesmal nur wirklich zu hoffen, dass die EU nicht wieder vor Agent Orange einknickt und diesmal eine Strafe verteilt, die zumindest der Firma Twitter so weh tut, dass sie sich eventuell nach der Zahlung offiziell aus der EU zurück zieht. Ob dass so kommt, würde ich als eher unwahrscheinlich bezeichnen aber hey, vielleicht ist das Grönland Drama doch zu irgendwas gut gewesen...

 

[firesnake]

Klar sowas geht gar nicht,
aber so ein Unternehmen wird sich von ein lächerlichen Millonen Sümmchen nicht eines besseren belehren lassen.
Sollte es soweit kommen, solange da nicht´s in trocke Tücher ist passiert da sowieso nicht´s !

Und ob hier ne Currywurst platzt,
oder ehr die kleine Strafe aus der Portokasse zahlt ist dem doch Wurst ..

Da müsste man schon klar ansagen, wenn nicht so und so geändert,
gibt es 50 Mrd. Strafe beim nächsten mal 100 Mrd.

Das merken die dann mal wenigstens, aber hey so hätte die Eu wenigstens auch mal etwas Geld.
Will gar nicht wissen was der Spaß kostet dem Eu Bürger dagegen vor zu gehen.