News Sexualisierte KI-Inhalte: EU startet offizielles Verfahren gegen X und Grok

[Incanus]

Aber was kann x dafür, wenn andere User Bilder hochladen?

Es geht hier nicht ums Hochladen, sondern ums Erstellen. Grok könnte das einfach verweigern und so die Möglichkeit dazu nehmen.

 

[grabeskuehle]

Ganz seltener Fall, dass ich mal der Argumentation einer Plattform, erstrecht der von Musk anschließe.
Aber am Ende des Tages sind es hier die Nutzer, die sich Strafbar sich machen, wenn sie illegale Inhalte durch die KI erstellen lassen.
Käme ja auch niemand auf die Idee, Sony, Canon oder Nikon zu verklagen, oder Änderungen in der Kamerasoftware zu verlangen, wenn mit einer Digitalkamera illegale Inhalte erstellt werden.

Es gibt unter diesen Nutzern ja vielleicht welche, die Glauben, es käme niemand zu Schaden, also passt das schon.
Das Gesetz kennt hier afaik (bist jetzt) keinen Unterschied: Erstellung ist Erstellung, ob in real oder mit KI.
Wichtig wäre es also, als Betreiber einer KI welche so etwas zulässt, Nutzer ganz klar zu Warnen und Ermahnen das sie sich bei der Erstellung illegaler Inhalte nach wie vor Straf- und Haftbar machen.

 

[Relak]

Nicht direkt. Aber als eine Person der Öffentlichkeit (hohe Bekanntheit) und dann noch gutaussehend (um das jetzt mal auf die Bikini Bilder zu beschränken) ist das ganz klar zu erwarten 😅🤷🏼‍♂️

Das ist die selber Argumentation wie "Was zieht sie sich auch so aufreizend an?" Ist das dein Ernst?

 

[Incanus]

Käme ja auch niemand auf die Idee, Sony, Canon oder Nikon zu verklagen, oder Änderungen in der Kamerasoftware zu verlangen, wenn mit einer Digitalkamera illegale Inhalte erstellt werden.

Wo in der Kamerasoftware gibt es denn die Funktion aus harmlosen Bildern, die man sich irgendwo beschafft hat pornographische zu machen?

 

[RaptorTP]

Ist das dein Ernst?

Natürlich. Ich bin Realist.
tbh: Paparazzi sind schlimmer als Personen die Mithilfe von KI jemanden im Bikini zeigen.

Wenn es ans "eingemachte" geht, bin ich bei dir. zB irgendwelche KI-generierte Sextapes die es gar nicht gibt.
Für selbst gefilmte die dann im Netz landen ist jeder selbst verantwortlich.

Aber Bild im Bikini einer hübsche Dame.🤷🏼‍♂️
Meine Güte, so geschockt du sein magst, kann ich nur ein müdes Schmunzeln entgegenbringen.

Ich will nicht sagen, dass es gut ist: "Aber" ... ja, wir haben größere Sorgen.

Ansonsten noch auf dem Bikini Bild Schwimmflügel an und "Satire" drunter geschrieben. So, ... und nu? 🤣

 

[Ironbutt]

Sehr richtig, es ist geregelt was Personen damit machen dürfen. Die Schmähung von anderen Menschen durch Bilder und Videos ist ebenfalls durch Gesetze abgedeckt.

Und es ist auch geregelt welche Schutzmaßnahmen der Hersteller im Rahmen seiner Möglichkeiten einer Sache ergreifen muss um dem Nutzer am Ende einen sicheren Umgang zu ermöglichen. Das ist beim Messer aufgrund der Eigenschaften und historisch bedingt wenig. Ein Auto hat widerum eine ganze Reihe an Schutzmaßnahmen.
Auch bei einer KI sollte es wohl möglich sein, eine Reihe an Schutzmaßnahmen zu implementieren.

Aber am Ende des Tages sind es hier die Nutzer, die sich Strafbar sich machen, wenn sie illegale Inhalte durch die KI erstellen lassen.

Ja und nein. Was du in deinem Keller oder Garten machst, sei erstmal dir überlassen (solange dabei niemand zu Schaden kommt). Da X als soziales Netzwerk einen öffentlichen Raum darstellt und sie obendrein noch Anbieter der KI sind, sind sie sehr wohl mitverantwortlich. Oder um den Autovergleich zu bemühen, es darf X durchaus zugemutet werden ihre KI mit einem Spurhalteasistenten auszurüsten.

 

[Schwobaseggl]

Ist das dein Ernst?

Naja, soweit hergeholt ist das nicht. Wenn ich mich heute dafür entscheide, nur mit einem Tanga und Netzhemd bekleidet durch die örtliche Einkaufspassage zu gehen, dann muss mir klar sein, dass die Leute mich schräg anschauen, Bilder machen und mich vielleicht sogar auslachen oder anfeinden. Stichwort Außenwirkung.

Wenn ich mich als Person freiwillig dazu entscheide, ein öffentliches Leben zu führen, ist unter anderem eine Konsequenz meiner Handlung, dass Leute mir eventuell nachstellen oder sogar parasoziale Bindungen aufbauen. Natürlich kann so etwas belastend sein und die Schwelle zum Ungesunden ist bestimmt fließend. Auf der anderen Seite gibt es bestimmt auch positive Aspekte. Alles hat Vor- und Nachteile.

Entscheidungen im Leben haben nun mal Konsequenzen.

PS: Mir ist bewusst, dass Stalking eine Straftat ist und man das „Recht am eigenen Bild“ hat; damit will ich die Opfer in keiner Weise diskreditieren!


PPS: Meine persönliche Meinung. Ich würde es ein bisschen differenzieren.

• Kinder (bis 14) haben für mein Empfinden nichts auf/in Social Media zu suchen. Da auch mal ein Wink an die Eltern: Lasst eure Kinder aus dem Internet raus. Die Plattformen sollten/müssten auch dementsprechend aussortieren.
• Jugendliche (bis 18) dahingehend schulen, dass sie schnellstmöglich eigenverantwortlich handeln. Verbieten wird nicht viel bringen; verbotene Früchte schmecken einfach zu gut.
• Erwachsene (ü18) sollten wissen, wie sie mit ihren Daten im Netz umgehen und was damit eventuell angestellt wird.

KIs sollten erkennen, sobald Kinder involviert sind, und einen Riegel vorschieben. Bei Jugendlichen einen Filter drüberzuklatschen (z. B. mit Hasenohren), lasse ich mir gefallen. Alles, was sexualisiert/ungesund ist, geht nicht.
Erwachsene: Wenn ich mich dafür entscheide, mir über die KI einen Bikini anziehen zu lassen, absolut fein. Sollte ich einer fremden Person einen Bikini anziehen wollen: nein. Person aus der
Öffentlichkeit: Moralisch absolut unterste Schublade, aber mit ganz viel Bauchschmerzen kann man es verstehen (nicht gutfinden).


Wenn ich mir das bisschen Social Media so anschaue, das ich nutze (YouTube), bekomme ich manchmal echt das Kotzen. Wie da die Kinder zum Teil für Klicks vor die Kamera (Jindaouis) gezogen werden... Jetzt noch mit dem Wissen, dass irgendwelche Lustmolche sich daraus „KiPos“ basteln könnten... Für meinen Geschmack zu viel des Guten, aber es sind nicht meine Kinder und daher geht mich die Erziehung auch nichts an.


Und mal wieder viel zu weit ausgeholt... Aber ich hoffe, ihr versteht: Nicht nur die KI ist das Problem, sondern viel mehr wir Nutzer.

 

[Moritz Velten]

Finde ich gut dass dahingehend mal was passiert, schon schlimm genug dass man Bildgenerierungs-KI überhaupt für sowas verwenden kann

Etwas zu spät, meiner Meinung nach.

Hoffentlich wird das noch Konsequenzen haben.

 

[Alphanerd]

Aber Bild im Bikini einer hübsche Dame.🤷🏼‍♂️
Meine Güte, so geschockt du sein magst, kann ich nur ein müdes Schmunzeln entgegenbringen.

Es geht nicht um das Bild einer Dame im Bikini. Sondern dass diese Dame dieses Bild nicht selber freiwillig hochgeladen, noch erstellt hat

Ist gar nicht so schwer zu verstehen.

 

[ascer]

Der KI-Chatbot Grok hat in weniger als zwei Wochen zwischen 1,8 und 3 Millionen sexualisierte Deepfakes, primär von Frauen – aber auch Männern und Kindern – generiert.

Was, in Anbetracht von weit über 10 Mio. Tweets mit Bildern pro Tag dann pro Woche ja sogar noch weit weniger als die <1% ist, die ich spontan und nicht repräsentativ kurz getestet habe. Das Problem ist also sogar noch seltener.

Ich bekomme eher Schnappatmung, wenn man Musk bei so was noch verteidigt.

Ja, wie gesagt.

Unabhängig davon ist es ja weder Musk persönlich, der die KI betreibt, noch Musk persönlich, der die Bilder generiert. Und viele Andere haben es hier ja genauso angemerkt: die persönliche Kritik an Musk, wohl wissend, dass derartige Fauxpas bei anderen KI-Betreibern genauso passieren oder in der Vergangenheit passiert sind, ist nichts anderes als mit zweierlei Maß zu messen.

 

[RaptorTP]

Sondern dass diese Dame dieses Bild nicht selber freiwillig hochgeladen, noch erstellt hat

Ist gar nicht so schwer zu verstehen.

Ich hab mit keiner Silbe versucht dergleichen anzudeuten.
Ich habe den Sachverhalt verstanden und mein Senf dazu geäußert.

Trete in die Öffentlichkeit und "deal with it" oder lass es bleiben. Nicht mehr, nicht weniger.

 

[Dark_Soul]

Jetzt mal eine ganz doofe Frage in den Raum gestellt: Sind Männer nicht betroffen oder in dem Fall nur Opfer zweiter Klasse? (Auch wenn es wohl nur im einstellig niedrigen Prozentanteil liegt.)

Kommt selten vor, aber das ist wirklich eine doofe Frage.

 

[Turr1caN]

Was, in Anbetracht von weit über 10 Mio. Tweets mit Bildern pro Tag dann pro Woche ja sogar noch weit weniger als die <1% ist, die ich spontan und nicht repräsentativ kurz getestet habe. Das Problem ist also sogar noch seltener.

Ach so. Na, dann ist ja alles in Ordnung. Sind ja nur ein paar Millionen Bilder und andere Betreiber sind nicht besser. Junge Junge, kannste dir nicht ausdenken so was ...

 

[Dark_Soul]

Schwierig. Wäre das Gegenbeispiel nicht so in etwa:
"Internetprovider ist schuld das Kunde XY K-Pornos geladen hat" - ist doch auch nicht richtig, am Ende ist der User natürlich selbst dafür verantwortlich. Wenn ich eine Schachtel Streichhölzer kaufe und dann den "Feuerteufel spiele" - wer ist schuld? Der Supermarkt der mir die Dinger verkauft hat oder der Hersteller?

Natürlich muss man diese Generatoren regulieren, aber ganz so Unrecht hat X damit auch nicht. Der User hat das Werkzeug in der Hand, was er damit macht muss er selbst wissen.

Wenn Grok der breiten Masse eine Technologie zur Verfügung stellt, mit der illegale Tätigkeiten einfach durchgeführt werden können, sind sie selbstverständlich mitverantwortlich.
Sonst wird immer auf die bösen Konzerne geschimpft, aber Elon scheint immer noch eine resistente Fanbase zu haben. Besorgniserregend.

 

[Relak]

Natürlich. Ich bin Realist.
tbh: Paparazzi sind schlimmer als Personen die Mithilfe von KI jemanden im Bikini zeigen.

Joar. Bloß weil die Realität so ausschaut muss das noch lange nicht in Ordnung sein. Klar kann ich auch per Photoshop eine berühmte Person in den Bikini zwängen. Bei Nacktbildern ist da aber mehr als nur eine Grenze überschritten. Da ist es dann egal ob Kind, Erwachsen, Mann, Frau, Unbekannt oder Prominent.

Und auch ein Promi hat das Recht auf eine Privat- und Intimsphäre.

Bei dir liest sich dass so als ob ein Promi das Recht auf jegliche Privatsphäre verloren hat aufgrund seiner Berühmtheit. Wie verhält es sich mit Kinderstars? Gehen da Bikinis klar weil berühmt?

 

[Alphanerd]

Trete in die Öffentlichkeit und "deal with it" oder lass es bleiben. Nicht mehr, nicht weniger.

Nur weil ich ein Foto von mir auf social media gestellt habe, habe ich nicht die Zustimmung gegeben, mir den Borat Badeanzug zu verpassen. Vlt würde das Bild ja auch vor einem oder zwei Jahrzehnten hochgeladen. Da brauchte es noch viele Arbeitsstunden, ein Bild so zu verändern und keine 5 Sekunden.

Ich sehe da kein "Deal with it"

 

[Hovac]

Und es ist auch geregelt welche Schutzmaßnahmen der Hersteller im Rahmen seiner Möglichkeiten einer Sache ergreifen muss um dem Nutzer am Ende einen sicheren Umgang zu ermöglichen. Das ist beim Messer aufgrund der Eigenschaften und historisch bedingt wenig. Ein Auto hat widerum eine ganze Reihe an Schutzmaßnahmen.
Auch bei einer KI sollte es wohl möglich sein, eine Reihe an Schutzmaßnahmen zu implementieren.
...

Mit Schutzbehauptungen kann die Herrschaft jedes Recht der Beherrschten brechen!
Wie sieht deine mögliche Reihe an Schutzmaßnahmen aus?

 

[ascer]

Junge Junge, kannste dir nicht ausdenken so was ...

Das würde ich viel eher zu einem Rechtsverständnis kommentieren, bei dem mit zweierlei Maß gemessen wird.

Ach so. Na, dann ist ja alles in Ordnung. Sind ja nur ein paar Millionen Bilder und andere Betreiber sind nicht besser

Niemand behauptete, dass alles in Ordnung sei. Die durchaus berechtigte Kritik ist lediglich:

1. Gleiche Regeln und gleiche Ahndung für alle - nicht bei ABC schauen wir besonders schnell oder genau hin, weil XYZ (egal welche Person das nun konkret ist) uns nicht gefällt
2. Aktivismus außen vor lassen - Ideologie und Politik sollte nicht mit Rechtsprechung vermischt werden
3. Klare Trennung von Dienstanbieter (sowie etwaigen Vorgaben, die erfüllt oder nicht erfüllt sind) und eigentlichen Tätern (bei Revenge Porn beispielsweise ist ja auch die jeweilige Videoplattform maximal bzgl. Moderationspflichten und Konsorten verantwortlich - Haupttäter bleibt derjenige, der den Inhalt mutwillig produziert und veröffentlicht). Und Dienstanbieter ist hier ja auch X, nicht Musk.

Zusammengefasst also nichts weiter außer gesunder Rechtsstaatlichkeit und freiheitlicher Grundordnung.

 

[tipmyredhat]

Unabhängig davon ist es ja weder Musk persönlich, der die KI betreibt, noch Musk persönlich, der die Bilder generiert. Und viele Andere haben es hier ja genauso angemerkt: die persönliche Kritik an Musk, wohl wissend, dass derartige Fauxpas bei anderen KI-Betreibern genauso passieren oder in der Vergangenheit passiert sind, ist nichts anderes als mit zweierlei Maß zu messen.

Es das wohl offenste Geheimnis überhaupt, das sich von den Empörten absolut niemand um Persönlichkeitsrechte oder dergleichen schert. Einzig das Pöbeln gegen Musk und natürlich alle anderen, welche poltisch nicht auf Linie sind, ist das Ziel.

Müsste eigentlich Adobe verklagt werden, wenn ich mittels Photoshop Herrn Merz einen Tanga verpasse? Oder denken wir unsere Moral nur so weit, wie es der Zeitgeist zulässt?

 

[ThirdLife]

Man sollte der KI Restrictions setzen und diese richtig trainieren damit sowas nicht möglich ist,
gleichzeitig sollte man aber auch Konten löschen die sowas anfragen.

Wenn ich eingebe "cute girl" mag noch eine 17-20 jährige erscheinen, wenn ich einfach sage "(cute girl:2.0)" wird daraus aber ruckzuck ein Kind weil ich das Model massiv antriggere. Wie willst das verbieten ? Darf nix mehr mit den Worten "Cute" oder "Girl" generiert werden ?

Und genau das ist eben so nicht möglich. Du kannst Genitalien aus den Trainingsdaten natürlich entfernen genauso wie jegliche Art von sexualisierten "Positionen" oder "Stellungen", aber das wars halt auch.

Du kannst fast jedes Wort irgendwie so weit verbiegen, dass du etwas rausziehst was nicht zwingend legal ist. Und wenn du zu hart limitierst machst du dein Modell nutzlos. Siehe SD3 - die User in Scharen weggerannt und jetzt kommt Stability weinend an und will backtracken von wegen man möchte mehr "Freiheit" wieder erlauben.

Die Leute wollen alle immer ne "perfekte Lösung" schön mundgerecht zugeschnitten - die gibts hier aber nicht. AI sollte ohnehin nicht groß limitiert sein, das schlägt nur aufs Skillset durch. Menschen müssen zur Verantwortung für Taten gezogen werden, nicht KIs. Die sollen gefälligst das tun was ich ihnen sage - legal oder illegal.