News Sexualisierte KI-Inhalte: EU startet offizielles Verfahren gegen X und Grok

Status
Neue Beiträge in diesem Thema müssen von einem Moderator freigeschaltet werden, bevor sie für andere Nutzer sichtbar sind.
X verlagert die Verantwortung also auf die Nutzer, die entsprechende Inhalte erstellt haben.
Schwierig. Wäre das Gegenbeispiel nicht so in etwa:
"Internetprovider ist schuld das Kunde XY K-Pornos geladen hat" - ist doch auch nicht richtig, am Ende ist der User natürlich selbst dafür verantwortlich. Wenn ich eine Schachtel Streichhölzer kaufe und dann den "Feuerteufel spiele" - wer ist schuld? Der Supermarkt der mir die Dinger verkauft hat oder der Hersteller?

Natürlich muss man diese Generatoren regulieren, aber ganz so Unrecht hat X damit auch nicht. Der User hat das Werkzeug in der Hand, was er damit macht muss er selbst wissen.
 
  • Gefällt mir
Reaktionen: H6-Mobs und Schwobaseggl
DonDonat schrieb:
Und was werden die Konsequenzen der wieder mal massiven Verfehlungen des Elon sein?
Ein paar Mio. $ Strafe, was für sein Vermögen nicht mal ein Klaps auf den Hintern ist sondern eher ein Haar dass ihm im Wind davon fliegt.
Die Strafe geht ja nicht gegen Elon, sondern xAI. Die Firma, die 1 Mrd im Monat verbrennt.
 
Zuletzt bearbeitet:
Gandalf2210 schrieb:
Das automatische Posten scheint das Problem zu sein.
Warum nicht die Bilder generieren und erst durch Bestätigung des Nutzers veröffentlichen?
Dann liegt die volle Verantwortung beim Nutzer.
Kommt drauf an, wo du die Bilder generierst. Grok ist nämlich nicht nur eine KI (grok.com) sondern auch ein Chatbot auf X (@grok). Und wenn du den Chatbot direkt auf X fragst, dann antwortet der dir halt auch direkt auf X mit einem X-Beitrag.
 
  • Gefällt mir
Reaktionen: Alphanerd
Ein rotes Auto schrieb:
Pornoseiten mit "Ich bestätige das ich mindestens 18 Jahre alt bin-Buttons" reichen, aber bei KI generierten Bildern von Promis im Bikini läuft das Fass dann über, oder wie?
Vielleicht sollte man einfach mal wieder Prioritäten setzen zu Zeiten, wo man seine Nachbarn bei OnlyFans findet..

Das mit den Kindern ist natürlich eine gute Sache. Egal ob KI generiert, oder nicht. KI, samt User gerne beschränken (kastrieren).
Dieser Post ist insgesamt einfach völlig kaputt.

Was haben Pornoseiten-Inhalte mit den Posts der User auf X generell zu tun?

Was haben von Dritten ohne Genehmigung erstellte DeepFakes von Posts der User auf X, mit freiwillig selbst produzierten Content auf OnlyFans zutun?
 
  • Gefällt mir
Reaktionen: BOBderBAGGER, Dark_Soul, Leap und 7 andere
Ein rotes Auto schrieb:
Vielleicht sollte man einfach mal wieder Prioritäten setzen zu Zeiten, wo man seine Nachbarn bei OnlyFans findet..
Deine Nachbarin macht das wohl freiwillig. Die anderen gegen ihren Willen. Sehe da schon einen Unterschied.
 
  • Gefällt mir
Reaktionen: BOBderBAGGER, M@tze, olEn und 4 andere
Alphanerd schrieb:
Bitte was? Die Darstellung ohne Einverständnis ist Missbrauch, ganz einfach. Wurden die Promis Bikini-Fotos von sich öffentlich sehen wollen, würden sie sich im Bikini an einen einsehbaren Strand begeben.
Das ist so nicht korrekt. Sobald es sich um eine (volljährige) Person des öffentlichen Lebens handelt, werden Relevanz öffentlicher Berichterstattung und Dergleichen abgewogen gegen die Persönlichkeitsrechte. Selbst heimlich gefilmte Aufnahmen können dann legal - und auch gegen den Willen der Betroffenen - veröffentlicht werden. Umstände wie Heimlichkeit, die "Paparazzi-Machart", usw. fließen zwar stark negativ in den Bewertungsprozess ein, sind für sich allein aber kein sofortiges Merkmal der Rechtswidrigkeit. Vollkommen ausgeschlossen sind nur Aufnahmen, die ohne Kenntnis in Privaträumen entstehen, etwa wenn der "Journalist" mit Teleobjektiv ins Wohnzimmer des Promis zoomt.

Die spannende Frage bei KI wird sein, wie viel Manipulation erlaubt ist. Gängige Praxis etwa Kleider von Promis in Photoshop "durchsichtiger" zu gestalten und dann lediglich im Brustwarzenbereich zu verpixeln, könnte auch per KI eventuell abgedeckt sein. Das Kleid hingegen gänzlich zu entfernen sicherlich nicht.

HtOW schrieb:
Solche Bild Generatoren sollten immer einen eindeutigen und auf den User zurückverfolgbare ID haben.
Das würde bei solchen Dingen wenig realen Nutzen haben. Was würdest du z.B. mit all denen machen, die KI Modelle dann lokal ausführen? Sodass du keinerlei Nachverfolgbarkeit hast?

Unabhängig davon bräuchte man eine eindeutige, fälschungssichere Methode, jedes Nutzerkonto immer und zu jeder Zeit einer realen Person zuordnen zu können. Das würde ich schon allein mit Blick nach Großbritannien als sehr riskant für die Gesellschaft ansehen.
 
  • Gefällt mir
Reaktionen: Relict
Finde es viel schlimmer das dass Internet mit irgendwelchen Videos geflutet wird und man im nachhinein raten darf ob der Inhalt nun echt oder durch eine KI erstellt wurde. Wenn diese Videos klar und deutlich als KI generiert gekennzeichnet sind, habe ich kein Problem damit, aber das sind die wenigsten.
 
  • Gefällt mir
Reaktionen: Ganjafield
Hagen_67 schrieb:
Sorry, aber wo hat ein Promi unterschrieben, dass er auf seine Persönlichkeitsrechte verzichtet?!?

Nicht direkt. Aber als eine Person der Öffentlichkeit (hohe Bekanntheit) und dann noch gutaussehend (um das jetzt mal auf die Bikini Bilder zu beschränken) ist das ganz klar zu erwarten 😅🤷🏼‍♂️

Also Bilder von mir mit Sixpack würden mich jetzt auch nicht belasten xD ... Aber ja, wir brauchen ja was worüber wir uns aufregen können.

Ganz wichtig sind die Menschen die Kinderbilder anfragen! Da stimmt was nicht und muss verfolgt werden.
 
  • Gefällt mir
Reaktionen: Schwobaseggl
longusnickus schrieb:
man geht gegen GROK vor und währenddessen schießen 10 andere KIs aus dem boden, die dasselbe machen!

Ein rotes Auto schrieb:
Pornoseiten mit "Ich bestätige das ich mindestens 18 Jahre alt bin-Buttons" reichen, aber bei KI generierten Bildern von Promis im Bikini läuft das Fass dann über, oder wie?

Ihr habt euch wirklich absolut 0 mit dem Thema auseinander gesetzt.
Das Problem ist, dass man Öffentlich (!) solche Bilder generiert hat.

Ich könnte ein Bilder deiner Frau/Tochter/Mutter/wemauchimmer nehmen, dieses bei X posten und Grok drum bitten sie in Unterwäsche darzustellen.

Wenn ich das in einem 1zu1 Chat mache mit einer KI juckt das im ersten Schritt niemanden, weil es keiner sieht. Bei X sieht es potentiell jeder.
 
  • Gefällt mir
Reaktionen: BOBderBAGGER, Dark_Soul, Melvorx und 2 andere
Bitte unbedingt auch jeden Kamera-oder Pinselhersteller mit einbeziehen, was mit solchen Gerätschaften schon alles produziert wurde. Meist sogar mit echten Darsteller:innen.
Das übliche mit "Kanonen auf Spatzen schießen" der EU.
 
Die Frage ist doch wo wird die Grenze bei KI Erstellten Inhalte neu gezogen wird bezüglich Straftat oder nicht. Ist ja wirklich noch Neuland. Sind das nicht Gerichte die sowas klären? „Bin“ (zum glück) nicht Mitglied in der EU, wie läuft das da?

Generell will ich nichts mit Sexualität in Kombination mit Kindern sehen, nicht mal um die Anschuldigungen zu Prüfen.
 
  • Gefällt mir
Reaktionen: Schwobaseggl
Hagen_67 schrieb:
Sorry, aber wo hat ein Promi unterschrieben, dass er auf seine Persönlichkeitsrechte verzichtet?!?
Als Person der Öffentlichkeit müssen gewisse Sachen ertragen werden können. Gleichheit vor dem Gesetz , definitiv.
 
  • Gefällt mir
Reaktionen: RaptorTP
Man kann eigentlich nur 3 Fazit's ziehen:

In einer Welt von wahnsinnig, wahnsinniger, am wahnsiggsten ist die EU wahrscheinlich das Einzige (Beste) was uns noch bleibt. Zynismus bringt uns da auch nicht weiter, im Gegenteil ,wir sollten alle Kraft daran setzen notwendige Reformen zu fordern, aber Ihr und damit letztlich uns allen, den Rücken zu stärken, denn sie ist alles was wir noch haben zwischen den ganzen Großmachtblöcken im Spektrum autoritärem Staatskapitalismus (china), autokratischem Totalitarismus (Rußland) und einer failed democracy aka Tech-Bro Oligarchy die ebenso ins autokratische abdriftet. 27 Einzelstaaten werden in dieser Zukunft gar nichts mehr reißen, soviel sollte nun wirklich als sicher gelten, falls noch irgendjemand das bezweifelt hat.

Zweitens hilft es ebenso wenig zu sagen, dass das ja alles nutzlos sei, weil man dagegen eh nichts machen könne. Wenn das ein valides Argument wäre, könnten wir nahezu auch jedes andere Gesetz einfach abschaffen weil die Straftaten ja trotz der Gesetze passieren und auch das Strafmaß hat darauf keinen nennenswerten Einfluss. Es geht vielmehr darum in einer Gesellschaft notwendige Leitplanken zu ziehen, was geht und was nicht, damit ein zusammenleben überhaupt möglich ist, denn oh wunder, die meisten halten sich am Ende des Tages dann doch an die Gesetze, außer vielleicht im Bagatellbereich. Es geht um Signalwirkung was gesellschaftlich akzeptabel ist und was nicht. Wir haben uns halt irgendwann mal weiterwentwickelt und beschlossen, dass man nicht mordend durch die Gegend rennen kann und sich dann das Eigentum der Opfer einverleiben kann. Jetzt mal übertrieben ausgedrückt. Und in so einer Welt will auch niemand leben.

Und drittens muss einem klar sein (und das ist wirklich auch nichts wirklich neues), es ist die Natur der Sache, dass Gesetze IMMER den realen Entwicklungen hinterherhinken MÜSSEN.
Zuerst muss ein Problem auftauchen, dann muss eine Gesellschaft es auch als Problem wahrnehmen, diese nimmt Kontakt mit der Gesetzgebung auf, bei alldem spielt die 4. Gewalt als Aufklärungskomponente auch eine wichtige Rolle und die gesetzgebende Kraft muss sich dann damit auseinandersetzen.
Und das kann in unserer komplexen Welt dauern. Und irgendwann kommt das fertige Gesetz, was dann Anwendung finden kann.
Und dieser ganze, langwierige Prozess fällt auch unter das Schlagwort "Bürokratie" aka Mühlen mahlen langsam. Aber so sehr man diese Bürokratie vielleicht manchmal auch verteufeln mag, am Ende des Tages ist die ungeliebte Bürokratie die einzige Form legaler Herrschaft, denn wenn sich nichts mehr an Gesetze halten muss herrscht die Willkür und damit das Chaos worin das schwächste Glied das einzelne Individuum ist, hilflos ausgeliefert, ohne die Möglichkeit den Staat, das Bundesland, oder die eigene Gemeine zu verklagen und vor Gericht zu ziehen.
 
  • Gefällt mir
Reaktionen: Leap, olEn, Incanus und 2 andere
ascer schrieb:
Das ist so nicht korrekt. Sobald es sich um eine (volljährige) Person des öffentlichen Lebens handelt, werden Relevanz öffentlicher Berichterstattung und Dergleichen abgewogen gegen die Persönlichkeitsrechte. Selbst heimlich gefilmte Aufnahmen können dann legal - und auch gegen den Willen der Betroffenen - veröffentlicht werden. Umstände wie Heimlichkeit, die "Paparazzi-Machart", usw. fließen zwar stark negativ in den Bewertungsprozess ein, sind für sich allein aber kein sofortiges Merkmal der Rechtswidrigkeit
Ja, aber nichts davon beschreibt KI generierte Bilder. Ich habe ja geschrieben, wenn Promis Bikini-Fotos von sich haben wollen, gehen sie an einen einsehbaren Strand.

Letzteres ist "ok", der KI generierte Slop nicht.
 
  • Gefällt mir
Reaktionen: Dark_Soul und Melvorx
longusnickus schrieb:
ein kampf gegen die hydra. das versteht die EU offenbar nicht
man geht gegen GROK vor und währenddessen schießen 10 andere KIs aus dem boden, die dasselbe machen!
Na dann brauchen wir auch KiPo nicht mehr verfolgen. Für jeden Ring, der ausgehoben wird, gibt es schließlich 10 andere, die weitermachen oder neu anfangen. Hat die EU nur noch nicht gerafft. Merkst selbst, was für einen schlechten Strohmann Du geliefert hast, oder?
longusnickus schrieb:
oder die EU versteht es und lebt einfach nur die persönliche vendetta gegen musk aus
Also wenn, dann lebt Musk seine Vandetta gegen die EU aus, weil die wenigstens noch ein wenig auf die Rechte seiner Bürger achtet.
evilhunter schrieb:
Es ist auch leider eine schmale Gratwanderung zwischen Zensur und Moderation der Inhalte.
Der Schutz der Persönlichkeitsrechte ist eindeutig geregelt und hat nichts mit Zensur zu tun.
 
  • Gefällt mir
Reaktionen: Dark_Soul, Leap, Melvorx und 2 andere
longusnickus schrieb:
ein kampf gegen die hydra. das versteht die EU offenbar nicht
man geht gegen GROK vor und währenddessen schießen 10 andere KIs aus dem boden, die dasselbe machen!
Das übliche EU-Bashing bringt nicht wirklich weiter. Es ist ein Schritt in die richtige Richtung, der bisher viel zu sanft angefassten Big-Techs aus Übersee. Wenn auch nur ein sehr kleiner. Aber jeder Schritt ist dann ja doch auch besser als gar keiner.

Es geht auch gar nicht darum, dass andere KIs das nicht auch können - Deepfakes gibt's auch schon seit es Fotobearbeitung gibt. Es geht darum, dass mit Twitter ein in meinen Augen Gatekeeper (auch wenn das die EU-Kommision nicht so sieht) ein simpel zugängliches Tool bereitstellt, das illegale und verletzende Inhalte nicht nur einfachst produzieren, sondern sie auch gleich verbreiten kann - vom Anbieter ganz bewusst ohne jegliche Schutzmechanismen angeboten. Das ist dann auch schon was anderes als eine lokal betriebene KI oder der persönliche Einsatz von Photoshop-Skills.

Auch wenn eine nicht unerhebliche Verantwortung beim Nutzer ist, darf das für einen Anbieter in der Größenordnung von Twitter nicht bedeuten, jegliche Tools ohne Risikobewertung und Sicherheitskonfiguration bereitzustellen. Diese Mitverantworung hatte die Plattform ja eigentlich schon beim reinen Text und kam dieser nie wirklich nach. Spästestens aber, wenn sexualisierte Bilder von Kindern kleingeredet werden und die Forderung nach Einschränkung aufgrund ein paar ethischer Grundregeln unserer Gesellschaft als Zensur beschriehen wird, kann man als vernünftiger, erwachsener Mensch, der vielleicht auch selbst Kinder hat, dann doch mal sagen, ist jetzt vielleicht dann mal genug. Auch wenn das hier natürlich nur ein Tropfen auf dem heißen Stein ist, ich bin froh über den Tropfen. Nichts machen ist nämlich keine gute Alternative.
Ergänzung ()

R4nd0 schrieb:
@Hylou Ja aber was wird gesehen? Ein künstlich erstelltes Bild… das kann doch niemanden jucken
Ob das juckt, entscheidet jede einzelne, betroffene Person und nicht du. Das ist ja schon "elonesk". Nur aufgrund dieser einen Äußerung gehe ich mal von zwei Sachen aus: Du bist keine Frau und du hast noch nie ernsthaft mit einer über sexuellen Missbrauch geredet. Das künstlich erstellte Bild hat bei Deepfakes nämlich einen realen Kopf. Und der gehört zu einem realen Menschen. Damit wird dieser Mensch auch sexuell missbraucht. Das kann auch ohne körperliche Gewalt mächtig jucken.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Dark_Soul, MelbarKasom, Leap und 4 andere
computerfouler schrieb:
Bitte unbedingt auch jeden Kamera-oder Pinselhersteller mit einbeziehen, was mit solchen Gerätschaften schon alles produziert wurde. Meist sogar mit echten Darsteller:innen.
Das übliche mit "Kanonen auf Spatzen schießen" der EU.
"Hier, ich bin noch relevant, kuck mal !!!"

Es ist wirklich lächerlich mittlerweile. Konsequenterweise verklagen wir noch Autohersteller oder Besteckmanufakturen. Außerdem sagt mir etwas, dass die Reaktion bei OpenAI oder Google deutlich anders ausgefallen wäre...
 
  • Gefällt mir
Reaktionen: Revolvermann01
AssassinWarlord schrieb:
Finde ich gut dass dahingehend mal was passiert, schon schlimm genug dass man Bildgenerierungs-KI überhaupt für sowas verwenden kann :(
KI ist ein Werkzeug, und derzeit noch ein ziemlich schlechtes. Einige Dinge funktionieren gut, andere hingegen nicht. Vergleichbare (teils problematische) Manipulationen oder unerwünschte Ergebnisse ließen sich auch schon immer mit Programmen wie Adobe Photoshop oder Gimp erzielen. Dies war sogar schon vor über 30 Jahren, beispielsweise auf einem Windows 95-Rechner, möglich. Und niemand ist deswegen auf die Idee gekommen, Photoshop, Gimp, Windows 95 oder den Rechner zu verbieten. Ein Werkzeug zu verstümmeln, nur weil sogenannte "Vollidioten" damit Schlechtes anstellen könnten, ist der falsche Weg.
 
  • Gefällt mir
Reaktionen: ascer
Joobix schrieb:
Ob das juckt, entscheidet jede einzelne, betroffene Person und nicht du. Das ist ja schon "elonesk". Nur aufgrund dieser einen Äußerung gehe ich mal von zwei Sachen aus: Du bist keine Frau und du hast noch nie ernsthaft mit einer über sexuellen Missbrauch geredet. Das künstlich erstellte Bild hat bei Deepfakes nämlich einen realen Kopf. Und der gehört zu einem realen Menschen. Damit wird dieser Mensch auch sexuell missbraucht. Das kann auch ohne körperliche Gewalt mächtig jucken.
Warum gleich eine sexistische Ebene eröffnen? Das halte ich für unangebracht. Sexueller Missbrauch betrifft nicht ausschliessliche Frauen, auch Männer sind davon betroffen!

"elonesk"? Kein Plan was das ist, noch nie gehört.

Sich durch ein KI-generiertes Fake-Bild verletzt oder missbraucht zu fühlen, ist nicht gleichzusetzen mit tatsächlichem sexuellem Missbrauch. Diese beiden Sachverhalte in ihrer Tragik und Tragweite miteinander zu vergleichen, halte ich für nicht angemessen.

Es ist Aufgabe der Judikative, zu klären, wie mit solchen neuen technischen Möglichkeiten rechtlich umzugehen ist. Ich bezweifle, dass das Erstellen einer KI-generierten Nacktversion einer erwachsenen Person per se strafbar sein kann. Bei Kindern hingegen muss dies klar verboten und strafrechtlich verfolgt werden. Kinder dürfen in keiner Form sexualisiert werden.
 
  • Gefällt mir
Reaktionen: Ford_Prefekt
Status
Neue Beiträge in diesem Thema müssen von einem Moderator freigeschaltet werden, bevor sie für andere Nutzer sichtbar sind.
Zurück
Oben