News Sexualisierte KI-Inhalte: EU startet offizielles Verfahren gegen X und Grok

[Alphanerd]

Wenn diese Videos klar und deutlich als KI generiert gekennzeichnet sind, habe ich kein Problem damit, aber das sind die wenigsten.

Du sollst ja auch dadurch am besten politisch beeinflusst werden. Selbst durch die, bei denen man klar weiß, dass sie Fake sind.
Beispiele: Obama wird im WH neben Trump verhaftet. Trump fliegt mit einer F 15 über Demonstranten und lässt Fäkalien regnen.

Jeder erkennt den Fake, trotzdem festigen sie Meinungen.

 

[Ironbutt]

kann man lokal sehr leicht zum Erstellen illegaler Inhalte bewegen.

Jeder Depp kann eine lokale KI laufen lassen.

Der springende Punkt ist hier Lokal. Was im jeweiligen Keller passiert ist erstmal egal, ob Person X die Mutter seines besten Freundes nun mit Ki, Photoshop oder als Ölgemälde auszieht ist egal solange es in seinem Keller verbleibt. Sobald das Werk aber veröffentlicht wird, wovon man auf X/Twitter wohl reden kann, sieht die Sache wieder anders aus.

Laßt uns endlich die Messerhersteller bekämpfen.

Warum? Das ist doch durch Gesetze weitestgehend abgedeckt. Solltest du auf einem öffentlichen Platz ein 40cm Messer ohne klar erkennbaren Grund auspacken, hast du ganz schnell ein paar Freunde in Blau.

@Hylou Ja aber was wird gesehen? Ein künstlich erstelltes Bild… das kann doch niemanden jucken

Ein jedes solches Bild kann dazu führen, dass eine Person in einer sozialen Gruppe zum Gesprächsthema wird und sich unter umständen Fragen, anzüglichen Anmachen und Kommentaren aussetzen muss, was je nach ausprägung zu ganz realer psychischen Belastung werden kann. Dann kann so ein Bild gewaltig jucken.

 

[evilhunter]

Der Schutz der Persönlichkeitsrechte ist eindeutig geregelt und hat nichts mit Zensur zu tun.

Ich habe mich etwas verkürzt und salopp ausgedrückt. Außerdem habe ich nicht gesagt, dass ich das für Zensur halte sondern nur, dass das man bei solchen Einschränkungen vorsichtig sein muss. Nicht weil ich es nicht für richtig halte sondern weil ich schon sehe wie die Leute drauf reagieren. Auch wenn es keine Zensur ist muss man vorsichtig damit umgehen.

 

[cypeak]

AI im allgemeinen muss mehr reguliert werden, allerdings ist die EU alleine auf verlorenem Posten.

ja, das ist gerne der erste reflex. regulierung...also ob regulierung a) wirklich funktionieren würde und b) nicht noch mehr bürokratie erzeugt...
zumal es ja echt kein kunstsück mehr ist lokale ki's laufen zu lassen.

es ist nunmal eine dieser konsequenzen wenn man den geist aus der flasche lässt. sowas fängt man nicht wieder ein.-..

 

[Turr1caN]

Mal aus Interesse kurzfristig ein paar Hundert X Posts gescraped und fand bei zufällig ausgewählten nur 2 derartige Bilder von Frauen, sprich deutlich <1% der Posts. Wobei es natürlich sein kann, dass X da mittlerweile korrigierend unterwegs war und es deshalb jetzt anders aussieht.

Generell wirkt das imho eher wie eine Kampagne gegen Musk, basierend auf der generellen Schnappatmung, die EU und Linke bei Musk bekommen.

Der KI-Chatbot Grok hat in weniger als zwei Wochen zwischen 1,8 und 3 Millionen sexualisierte Deepfakes, primär von Frauen – aber auch Männern und Kindern – generiert.

Ich bekomme eher Schnappatmung, wenn man Musk bei so was noch verteidigt.

 

[S.Evans]

tldr;
Fotos von echten Kindern dieser Art gibt es schon haufenweise auf social media und es wird gefühlt nicht dagegen vorgegangen, aber Grok sollte als breites Werkzeug in der Hinsicht eingeschränkt werden.
______________________________________________________________________________

Wenn man gegen sowas ein Verfahren startet, müsste man auch gegen Haufenweise Posts auf Instagram und co vorgehen, weil das ja dann auch "sexualisierter Inhalt" ist (und die sind noch nicht mal KI was es schlimmer macht).

Finde ich eine ganz schwierige Frage wie man am besten gegen sowas vorgeht und wo dann die Verantwortung von "Grok" aufhört und die des Nutzers anfängt.
Wenn ich es richtig verstehe ist Grok ja auch nicht dazu in der Lage die Leute komplett auszuziehen, wenn aber dann Bikinis / Unterwäsche auch nicht gehen müsste man die Funbktion in der Hinsicht wahrscheinlich extrem abändern um zu Gewährleisten, dass Niemand ungünstig dargestellt wird, da wäre es wahrscheinlich einfacher das Feature der Bildgenerierung / Bearbeitung ganz zu kippen.

Jetzt haben wir aber wieder ein Tropfen auf den (im Vergleich) nicht mal ganz so heißen Stein.

mMn sollte man Grok in der Form stark in der Funktion beschränken, aber an der Grundproblematik kann die EU in dem SInne nichts machen, außer durch extreme Überwachung oder durch das Verbot von eigenen Computern.
Jeder kann eine lokale KI mit Leichtigkeit zum laufen bringen, und die macht dann die richtig kranken Sachen.

 

[Farrinah]

Wer verursacht den Unfall, das Auto oder der Fahrer?

 

[DrFreaK666]

Einfach mal X in der EU blockieren. Ist sowieso der größte toxische Mist.

 

[alyk.brevin]

Kinder dürfen in keiner Form sexualisiert werden.

ich weiß nicht, ob du damit alle unter 18 meinst, laut gesetz ist man in deutschland ab 14 kein kind mehr:
https://www.sozialgesetzbuch-sgb.de/sgbviii/7.html

für jugendliche gelten auch einschränkungen und schutz, aber nicht so harte bei der sexualisierung wie für kinder.

auch bei (nicht prominente) erwachsenen kann durch persönlichkeits- und datenschutzrechte das veröffentlichen von (fake)bildern strafbar sein.

 

[martinisnowfox]

Wurde aber auch Zeit! Und ich bin mir sicher, das Elon da wieder heulen wird. Auch wenn es nur einige hundert millionen Geld sind, die er blechen darf - das trifft ihn schon sehr. Denn Stinkreich wird man nicht in dem man teilt, sondern in dem man sein Vermögen um jeden Cent verteidigt - besonders vor der bösen und immer gemeinen Steuer! Golum!, Golum!!

Ja, diesem Geizhals sollte man ruhig mal öfters das Geld aus der Tasche nehmen. Er hat ja genug davon und anscheinend hat dieser profitgeile Gröhßenwahnsinnige die Verfehlung seiner eigenen KI mehr als Feature gesehen anstelle einzuschreiten und Verantwortung zu zeigen. Aber heyy, Sex sells! Und Geld ist ja immer gut. *hust

Habe kein Mitleid mit solch derart verkorksten Menschen. Es würde mich auch nicht stören, wenn die EU hier auch mal den Stecker zieht. Die Plattform ist sowieso nur noch ein Sammelpool von Personen denen ich nichteinmal mit einer Kneifzange das Salz reichen würde.

 

[Terrordrome]

Das mit den Kindern sollte verfolgt und aufs härteste Bestraft werden. Alles andere finde ich lächerlich.

 

[Salamimander]

ein kampf gegen die hydra. das versteht die EU offenbar nicht
man geht gegen GROK vor und währenddessen schießen 10 andere KIs aus dem boden, die dasselbe machen!

hier ein aktueller artikel, der zeigt, dass das ganze nicht erst seit grok ein thema ist. welche KI hat es davor gemacht? welche wird es danach machen?
https://www.sueddeutsche.de/politik/deepfakes-strafrecht-shurjoka-li.3371587


dasselbe spiel wie bei WAREZ seiten. man geht gegen eine seite vor und gleichzeitigt kommen 10 neue
oder die EU versteht es und lebt einfach nur die persönliche vendetta gegen musk aus

Du verstehst aber schon den Unterschied zwischen einem Milliarden Unternehmen und kleinen Klinschbuden?

 

[xerex.exe]

Das Problem hier ist doch nicht die KI, das Problem hier sind doch die widerlichen Menschen die das nutzen. Jeder der irgendwelche Kinder da erstellt sollte direkt Besuch von der Polizei um 6 Uhr morgens ohne Kaffeelieferservice bekommen, dafür aber mit einem halben Jahr betreutem Wohnen.

 

[raychan]

Irgendwie finde ich es witzig die Kommentare zu lesen. Wie unterschiedlich die Meinungen sind.
Wenn Apple die KI in EU nicht aktiviert, dann sind haufenweise beschwerden und es wird oft gesagt das die EU sich tot reguliert und daran schuld ist. Wurde wie hier nicht rechtzeitig reguliert von der EU gibt es beschwerden das die EU zu wenig macht und zu langsam ist. 😂

Ich finde es gut das die EU jetzt darauf reagiert und ich hoffe da kommen ordentliche Strafen. Und ich finde Regulierung wichtig, auch wenn es schwierig ist die Linie zu finden zwischen Meinungsfreiheit, Fakten, Lügen, Cybermobbing usw.

 

[- Faxe -]

Das sowas wie Promis mal in ein Bikini gesteckt werden ist doch völlig normal.
Mein Bruder sein Kopf bekam auch mal den Körper von Cameron Diaz. Wir fanden es damals witzig.
Damals wurde es noch ausgedruckt und rumgezeigt (nix Social Media)

Das sowas als normal angesehen wird, sagt eigentlich schon wieder alles.

Zum Topic, es ist soweit richtig. Zwar zu spät, aber richtig. Auch würde ich mir wünschen das diejenigen, die diese Bilder erstellt haben, zur Rechenschaft gezogen werden. Es ist eine Sache kranken Geistern die Werkzeuge wegzunehmen, allerdings muss es auch beim User Konsequenzen geben.

 

[Ironbutt]

Fotos von echten Kindern dieser Art gibt es schon haufenweise auf social media und es wird gefühlt nicht dagegen vorgegangen,

Der Unteschied ist die Herkunft. Wenn die 16 jährige Lisa ein Bild von sich hochlädt im Mini-Bikini, mag man das fraglich finden, aber sie hat das Bild selbst gemacht und hochgeladen.

Wer verursacht den Unfall, das Auto oder der Fahrer?

Darf dir der Hersteller ein Auto ohne Bremsen verkaufen?

 

[Meta.Morph]

Ich habe ein extremes Störgefühl. Politiker tragen die Intention, Kinder schützen zu wollen, wie eine Monstranz vor sich her … und reißen dabei (oder mithilfe dieses Vorwands) Freiheiten ein! Gleichzeitig belässt man Kinder in Armut und lässt Kinderarbeit zu.

Wir haben ein Problem mit Deepfakes. Aber wir haben auch ein Problem mit Bildern, die aus aktueller Sicht legal hochgeladen werden (wie das 16-jährige Mädchen im Bikini auf Instagram oder der 11-jährige Sohn, dessen Eltern ihn für ein Meme missbrauchen). Und wir haben ein Problem mit Bildern von Personen, die von Dritten hochgeladen wurden, obwohl die Betroffenen dort nie erscheinen wollten.

Das läuft seit Jahrzehnten so und daraus entstehen echte Probleme: Doxing, Cybermobbing, Identitätsdiebstahl, Grooming.

Was die KI betrifft: Deepfakes mal ausgeklammert, sind mir synthetische Bilder 100-mal lieber! Ich will nicht, dass die KI als Werkzeug eingeschränkt wird. Aber: Wer solche Dienste der Öffentlichkeit zugänglich macht, muss auch dafür geradestehen, welchen Missbrauch er technisch ermöglicht. Freiheit für das Tool, aber Verantwortung für den Betreiber.

 

[Hovac]

Warum? Das ist doch durch Gesetze weitestgehend abgedeckt. Solltest du auf einem öffentlichen Platz ein 40cm Messer ohne klar erkennbaren Grund auspacken, hast du ganz schnell ein paar Freunde in Blau.

Sehr richtig, es ist geregelt was Personen damit machen dürfen. Die Schmähung von anderen Menschen durch Bilder und Videos ist ebenfalls durch Gesetze abgedeckt.
Deshalb ist das EU handeln ja so falsch.

 

[Incanus]

Ich finde diese ständigen Vergleiche mit Messern oder Besteckkästen, Autos etc echt erschreckend.

Ein Messer hat keinerlei Elektronik und den Arm desjenigen, der es hält kann ich auch nicht von außen kontrollieren. Aber man stelle sich vor, es würde gehen. Man könnte also technisch dafür sorgen, dass man Gemüse damit schneiden, aber es niemanden in den Bauch rammen kann. Wäre das nicht großartig?

Und hier geht es um KI, ein Werkzeug das sicher zu vielen nützlichen Dingen benutzt werden kann. Aber wenn jemand einen Prompt verwendet, der aus einem harmlosen Kinderbild ein Pornofoto macht, soll das einfach so hingenommen werden? Es wäre ja schließlich alleine Sache des Nutzers?

Oder um auf die Autos zurückzukommen, da empfindet man ja einen Kollisionsschutzassistenten auch nicht als ungeheuren Einschnitt in die Persönlichkeitsrechte, weil man seinen Nachbarn nicht mehr ungefragt überfahren kann, sondern das Auto einfach automatisiert bremst.

Dass hier also gegen einen Dienst vorgegangen wird, der eindeutig die Möglichkeit hätte eine solche missbräuchliche Nutzung seines KI-Assistenten zu unterbinden ist nur gut und richtig. Das ist kein Kavaliersdelikt.

 

[Justuz]

Aber was kann x dafür, wenn andere User Bilder hochladen?
Die schuld liegt doch beim User.