News Sexualisierte KI-Inhalte: EU startet offizielles Verfahren gegen X und Grok

[Genoo]

Das Problem ist ja auch, das Grok diese Inhalte teilweise "unbeabsichtigt" erstellt hat, natürlich hat man explizite Prompts eingegeben - zugegeben, als das Thema viral wurde habe ich auch in Grok fiktive Frauen erstellen lassen um zu schauen was da dran ist und hin und wieder wurden mir da auch eindeutig Minderjährige präsentiert obwohl mein Prompt diese nicht erwähnt hat

Ist aber halt ein generelles KI Thema, vor knapp 2 Jahren konnte man auf Midjourney auch noch Joe Biden mit kleinen Kindern knutschen lassen, da hat es auch "keine" Regierung interessiert weils einfach nicht so weit verbreitet/bekannt war wie X

Und natürlich ist das alles nicht gut, ABER (und das mag jetzt sehr kontrovers klingen) sobald wir Anfangen "westliche KI" unter Restriktionen zu setzen, werden die Länder die sich nicht darum kümmern einen Vorteil haben.

Natürlich kann man sich jetzt fragen was nackte Frauen mit technologischen Vorsprung zu tun haben, aber sobald mal Tür und Tor für Restriktionen offen sind, wird da noch viel mehr folgen und es nicht nur bei nackten Frauen bleiben

Und ehrlicherweise würde ich nicht in einer Welt leben wollen, in der China bei KI Vorreiter ist.

 

[Ein rotes Auto]

Pornoseiten mit "Ich bestätige das ich mindestens 18 Jahre alt bin-Buttons" reichen, aber bei KI generierten Bildern von Promis im Bikini läuft das Fass dann über, oder wie?
Vielleicht sollte man einfach mal wieder Prioritäten setzen zu Zeiten, wo man seine Nachbarn bei OnlyFans findet..

Das mit den Kindern ist natürlich eine gute Sache. Egal ob KI generiert, oder nicht. KI, samt User gerne beschränken (kastrieren).

 

[Hagen_67]

Also, wo fang ich an.
Zuerst einmal sind sämtliche KIs in den Kinderschuhen. Die wissen nicht was die da tun.
Wenn Promis gut dargestellt sind, wo ist das Problem? Gut, gibt genug die sich dann angegriffen fühlen.
Jeder Promi sollte wissen, das sowas auch Werbung ist Aber hey.
Ok, ist mir persönlich jetzt völlig wurscht und belanglos.

Bei sexueller Darstellung von Kindern bin ich bei euch.
Man sollte der KI Restrictions setzen und diese richtig trainieren damit sowas nicht möglich ist,
gleichzeitig sollte man aber auch Konten löschen die sowas anfragen.

Ich kann es nicht testen (hab keinen Zugang zu beiden Social Media Plattform, wie alles andere außer YouTube auch) Ich würde es auch nicht testen.

Promis wären mir viel zu langweilig. Das andere versteht sich von selbst.
Es gibt ja eigentlich genug Auswahl auf anderen Plattform sogar von Bewegtbildern. Sogar Cosplay, bei Bedarf. Also von Erwachsenen Person die mit oder gänzlich ohne Kleidung verschiedene Dinge tun.

Das sowas wie Promis mal in ein Bikini gesteckt werden ist doch völlig normal.
Mein Bruder sein Kopf bekam auch mal den Körper von Cameron Diaz. Wir fanden es damals witzig.
Damals wurde es noch ausgedruckt und rumgezeigt (nix Social Media)

Sorry, aber wo hat ein Promi unterschrieben, dass er auf seine Persönlichkeitsrechte verzichtet?!? Ja, bei Kindern/ Jugendlichen nochmal eine ganz andere Nummer. Aber auch bei Promis ist das nicht in Ordnung und damit entschuldbar, dass die das doch wissen müssten und um Grund doch nur Werbung für die sei. Was ist das für eine Rechtsauffassung?

Aber davon ab, die Box der Pandora ist geöffnet. Die bekommt man mit ein paar Gesetzen nicht wieder geschlossen.

 

[Hovac]

Laßt uns endlich die Messerhersteller bekämpfen.
Oder ist das etwas anderes?

 

[Ranayna]

ein kampf gegen die hydra. das versteht die EU offenbar nicht
man geht gegen GROK vor und währenddessen schießen 10 andere KIs aus dem boden, die dasselbe machen!

Und deswegen einfach ignorieren und machen lassen?
Das kann doch auch nicht die Loesung sein.
Eher soll,te man sowas als Praezendezfall nehmen und daran orientierte neue Regeln definieren.
Dauert halt, aber da ist die EU ja nicht alleine mit diesem Problem.

 

[sethdiabolos]

Ich hoffe, dass man nur nicht bei X oder Grok aufhört und andere Plattformen außer Acht lässt. Auf Facebook werde ich z.B. inzwischen auch mit allem möglich zugebombt. Bisher nur erwachsene Frauen, aber man weiß es ja nicht.

 

[Müslimann]

Stellt euch vor, wie viel weniger RAM benötigt würde, wenn KI nicht mehr für Corn missbraucht wird.

 

[Schwobaseggl]

massenhaft sexualisierte Bilder von Frauen und Kindern auf X generiert worden sind

Jetzt mal eine ganz doofe Frage in den Raum gestellt: Sind Männer nicht betroffen oder in dem Fall nur Opfer zweiter Klasse? (Auch wenn es wohl nur im einstellig niedrigen Prozentanteil liegt.)

Aber B2T: Ein absolutes No-Go, dass die KI-Entwickler da keinen Riegel vorschieben, aber viel ekelhafter sind die Personen, die das ausnutzen ...

Was mich aber wundert: Das Phänomen (Deepfake-Pornos) gibt es bereits seit bestimmt einem Jahrzehnt auf z. B. 4Chan, nur da hat es fast keine Sau interessiert. Also da gab es jetzt nicht die KI, aber die Inhalte. Hat, wie ich finde, „a Gschmäckle“.

Aber es ist jetzt dann ja hoffentlich ein Anfang gemacht. Mal schauen, wie sich die Geschichte entwickelt.

 

[Alphanerd]

Too little, too late imho.

Aber heutzutage darf man ja schon froh sein, dass die EU überhaupt was macht.

Das übliche dumpfe EU bashing ohne Substanz bereits als zweiter Post. Und das obwohl moderiert wird. Hut ab.

Es dauert nun einmal die rechtliche Lage zu prüfen, ob der Einsatz einer Kommission überhaupt angebracht ist.

man geht gegen GROK vor und währenddessen schießen 10 andere KIs aus dem boden, die dasselbe machen!

Integriert in eine social Media Plattform? Welche sind das? Und warum schaffen es andere generative KIs solche Aktionen nicht auszuführen? Natürlich in der online Variante, Lokal ist es anders

 

[madmax2010]

AI im allgemeinen muss mehr reguliert werden, allerdings ist die EU alleine auf verlorenem Posten.

+1
In den USA kommt auch regulierung, sie ist nur leider ein Politisches Schlachtfeld zwischen Amodei, Altman, Musk, Hassabis, Zuckerberg, Huang, und Pichai.

Wobei ich noch am ehesten auf den Weg von Dario Amodei hoffen wuerde

 

[Mondgesang]

@Syrato So heftig, dass der Praktikant sie morgens noch vor dem ersten Kaffee aus der Portokasse bezahlt.

 

[Red_Bull]

skynet muss endlich und endgültig abgeschaltet werden bevor es zu spät ist

 

[Alphanerd]

Also, wo fang ich an.
Zuerst einmal sind sämtliche KIs in den Kinderschuhen. Die wissen nicht was die da tun.

Hier habe ich noch gedacht, dass ist Ironie.

Wenn Promis gut dargestellt sind, wo ist das Problem? Gut, gibt genug die sich dann angegriffen fühlen.
Jeder Promi sollte wissen, das sowas auch Werbung ist Aber hey.

Bitte was? Die Darstellung ohne Einverständnis ist Missbrauch, ganz einfach. Würden die Promis Bikini-Fotos von sich öffentlich sehen wollen, würden sie sich im Bikini an einen einsehbaren Strand begeben.

 

[tree-snake]

Also auf reddit findet man viele Bilder welche angeblich von GPT stammen und den Beschreibungen von oben auch entsprechen. Gibt es da dann auch ein Verfahren oder wie wird sowas jetzt ausgewählt?

 

[Umlüx]

finde ich gut. irgendwo müssen endlich grenzen aufgezeigt werden. solche edits sind einfach ein massiver eingriff in die persönlichkeitsrechte. egal obs eine 0815 person, ein promi oder ein bikini influencer ist.
von kindern ganz zu schweigen, da kann ich nichtmal so viel fressen wie ich kotzen möchte!

obs unterm sprich halt wirklich was bringen wird, wird sich erst zeigen. die mühlen mahlen leider oft langsam. besonders in der EU.

 

[Gandalf2210]

Das automatische Posten scheint das Problem zu sein.
Warum nicht die Bilder generieren und erst durch Bestätigung des Nutzers veröffentlichen?
Dann liegt die volle Verantwortung beim Nutzer.

 

[JoergB]

Ein Kollege hat früher mal gesagt ohne den ganzen Schweinkram passt der Rest des Internets auf eine Diskette, heute vermutlich eine DVD
Das war doch klar das KI dafür verwendet wird, irgendwoher muss doch mal etwas Geld für die KI Blase kommen.

Richtig ist das natürlich in keinster Weise.
Es ist nur die Frage wie man dem Einhalt gebietet.

 

[HtOW]

Solche Bild Generatoren sollten immer einen eindeutigen und auf den User zurückverfolgbare ID haben.
Klar müsste man dann schauen, wie man damit umgeht, bei Accout Phisching aber das wäre immerhin mal ein Ansatz der die anonymität reduziert.
Sowas wie Google mit dem KI eindeutigen Fingerabruck ist gut aber da bedarf es allgemein gültiger Kriterien, auch oder vlt speziell für eigene/self hosted Ai Software.

Mehr Bedarf es m.M.n. nicht.

 

[banditone]

Nicht die Waffe ist das problem, sondern der der Sie missbraucht um schaden anzurichten. Davon ab ist die Katze doch eh schon seit Jahren aus dem Sack mit ComfyUI, CivitAI usw., welche komplett unzensiert sind, mit millionen mehr Möglichkeiten.

 

[madmax2010]

Solche Bild Generatoren sollten immer einen eindeutigen und auf den User zurückverfolgbare ID haben.

Es würde mich ehrlich gesagt doch sehr wundern, wenn sie das nicht haben. Es ist bei gedruckten Dokumenten schon lange so, dass zurückverfolgbar ist wann und auf welchem Drucker etwas gedruckt wurde.

Bilder eindeutig zurückverfolgbar machen, ohne dass sich visuell etwas verändert ist seit langer Zeit trivial.
Das kann man als vereinfachte Steganographie betrachten.
Ich habe (noch vor Musk) mal mit 3 Accounts das gleiche Bild bei Twitter heruntergeladen und sie hatten alle unterschiedliche checksums.
Jeder Link den man kopiert und weiter schickt, hat eindeutige Tracking IDs. Bei Bildern wird das nicht anders sein.
Firmen wollen doch wissen, welche User, wann und wo heruntergeladene Bilder wieder Posten.

Das KI generieren solcher Bilder, egal ob mit GANs oder Diffsusion Modellen, braucht schon einiges an Rechenleistung.
Das betrachtet
In einer Zeit in der Soziale Netzwerke pro user eigene Empfehlungsmodelle trainieren, ist der technische und Ressourcenaufwand, Bilder jederzeit eindeutig identifizierbar zu machen ziemlich gering.

Das problem wird eher das "Alignment" der Modelle mit Hinblick die Rechte der betroffenen zu wahren sein, denn was danach nicht mehr geposted wird, liegt dann halt nur bei den Kunden auf der Festplatte