News KI-Bildbearbeitung auf X: Grok erstellt sexualisierte Inhalte von Frauen und Minderjährigen

[smuper]

geht mit Gemini genau so..... und X hat mittlerweile reagiert https://x.com/iam_smx/status/2007490225279574364

Nano Banana Pro hat DEUTLICH schärfere Safe Guards. Dafür ist es aber auch viel besser.

 

[Gesher]

Eine synthetische, künstlerische Darstellung, die zwar postpubertär ABER formaljuristisch noch "minderjährig" ist? Leute scheinen sich in der Ontologie abstrakter Konzepte zu verlaufen. Vllt. reicht dann ja auch eine einfach dazu generierte Fake-ID ...

 

[Laktose-Larry]

Hab mir vorhin mal die Dynamik auf X im Zusammenhang mit Grok kurz angeschaut. Schon krass, was du damit alles machen kannst: Das Ding erstellt dir sämtliche Posen vom Original-Bild.

Einer hat geschrieben gehabt: "Dreh sie um, zieh ihr ein Mikro-Bikini an und darauf eine weiß-transparente Kuchenglasur". Wie die ausgesehen hat, also die Kuchenglasur am Körper, könnt ihr euch vorstellen. Und das eben konnte / kann man auch mit Kinderbilder machen.

 

[aspro]

Ist das unbewusste Unfähigkeit oder bewusst ideologisch politisches Framing:

Weder noch.

Grok erstellt das was der Nutzer im aufträgt.

Grok erstellt das, was der Entwickler von Grok ihm erlaubt. Und wenn der Entwickler unfähig oder unwillens ist, problematische Nutzerprompts abzufangen, gehört das sanktioniert.

Die Überschrift wäre also: Nutzer missbrauchen Grok für das Erstellen sexualisierter Inhalte von Frauen und Minderjährigen

So lange man etwas nicht missbrauchen KANN, wird es auch nicht gemacht.

Und dann wundert man sich wieso das Vertrauen in die Qualität und Seriosität von Journalismus schwindet.

Haha, aber anderen Framing vorwerfen.

 

[fatony]

geht mit Gemini genau so..... und X hat mittlerweile reagiert https://x.com/iam_smx/status/2007490225279574364

Verstehe ich das richtig? Sie wissen davon, lassen die Möglichkeit offen, und wollen quasi damit erziehen? Was zur Hölle geht eigentlich heutzutage ab. Alles fing mit den 06.11.2024 an......ab da ging alles nicht langsam bergab, sondern wirklich volle Kanne.

Und die EU-Politiker werden nichts machen, weil wenn die EU-Komission anfangen würde zu ermitteln, dann Donald Duck um die Ecke kommen würde. Statt für Unabhängigkeit zu sorgen, sorgen wir auch noch mit der jüngsten bayerischen Regierungsentscheidung dafür, dass noch mehr Abhängigkeit herrscht.

 

[Himbeerdone]

Das war doch von vornherein klar. Die große Frage ist doch, wie kann man so etwas verhindern.
Mittel KI- Chat kann ja jeder sofort jedwedes Material erstellen lassen, Copyright, Persönlichkeitsrechte wie das Recht am eigenen Bild interessiert da keinen mehr. Der Wahrheitsgehalt sowieso keinen mehr. Es geht hier nicht nur um "Bikinifotos" sondern um weit aus mehr.

Was derzeit gerade in den sozialen Medien abgeht ist nicht mehr feierlich. Nur noch KI generierter Scheißdreck.

Prinzipiell gehören alle generierten Bilder/ Texte/ Fotos von der KI signiert und eine Filtermöglichkeit geschaffen. So könnten auch Klicks wegfallen und somit der Anreiz extremes Clickbaiting zu reduzieren.

Hier müsste wirklich internationale Richtlinien und Gesetze geschafft werden, wie man gegen soetwas leicht rechtlich vorgehen kann. Da den Spagat zwischen allen Interessen und dem freien anonymen Internet hinzubekommen ist wohl die größte Aufgabe der kommenden Jahre/ Jahrzehnte.....

 

[Booth]

Grok erstellt das was der Nutzer im aufträgt. Die Überschrift wäre also: Nutzer missbrauchen Grok für das Erstellen sexualisierter Inhalte von Frauen und Minderjährigen

Wenn es keine Gesetze dagegen gibt...wieso wollte dies ein "Mißbrauch" sein? Und natürlich erstellt Grok die Inhalte. Wer sonst. Die Benutzer lassen Grok die Inhalte erstellen.

Gesetzlich könnte man natürlich an mehreren Ecken angreifen. Aber die Trump Regierung versucht ja sämtliche Regulierungen von LLMs zu unterbinden.
Läuft doch.

 

[Ripcord]

Die KI selber wird wohl kaum von allein sowas erstellen. Diese ist nur ein Werkzeug für die Person vor dem Rechner. Das zeigt aber auch wie verloren die Menscheit an sich ist. Entweder sowas oder Gewalt.

 

[lugge]

Ich bin (wieder) sehr vorsichtig geworden, was die mögliche Veröffentlichung von Bild-/Ton-/Video-material von mir in Internet angeht. Früher eher aus "klassischem" Datenschutz, heutzutage aus Sorge vor unrechtmäßiger KI-Bearbeitung.

 

[BmwM3Michi]

Die EU-Kommission muss mal merken, dass wir mit Geldstrafen nicht weiter kommen! Dienste, die sich nicht an die Regeln halten, sollten in der EU für 3 Monate gesperrt werden! Brasilien hat es schon gemacht!

 

[megaapfel]

Es ist wirklich komplett aus dem Ruder gelaufen, wie man nun mit einem Klick selbst deepfake Videos anhand eines einzelnen Bildes erstellen kann. Der einzige Trost ist, dass man nun bei jedwedem kompromittierendem Material die Echtheit anzweifeln kann.

 

[megaapfel]

geht mit Gemini genau so..... und X hat mittlerweile reagiert https://x.com/iam_smx/status/2007490225279574364

Die Reaktion löst das Problem in keinster Weise.

 

[megaapfel]

Ist das unbewusste Unfähigkeit oder bewusst ideologisch politisches Framing:

Grok erstellt das was der Nutzer im aufträgt. Die Überschrift wäre also: Nutzer missbrauchen Grok für das Erstellen sexualisierter Inhalte von Frauen und Minderjährigen

Der springende Punkt ist, dass es gar nicht erst möglich sein sollte, solche Inhalte mit Grok zu erstellen.
Das ist Elon Musks Verantwortung und er hat keine wirksame Sperre implementiert, die das verhindert.

 

[Alphanerd]

Ist das unbewusste Unfähigkeit oder bewusst ideologisch politisches Framing:

Grok erstellt das was der Nutzer im aufträgt. Die Überschrift wäre also: Nutzer missbrauchen Grok für das Erstellen sexualisierter Inhalte von Frauen und Minderjährigen

Achso. Ein einfaches "Tut mir leid, dass kann ich keiner leider nicht für dich tun" ist unmöglich, weil?

Interessant wird es, wie die Vorfälle in den USA bewertet werden. Realistisch wirkende KI-Darstellungen, die identifizierbare Personen und Kinder in sexuellen Darstellungen zeigen, können laut The Verge ebenfalls illegal sein.

Was soll da passieren? Ist ja nicht so, dass in den USA noch Gesetze für alle gelten.

Bedauerlicherweise wird es stets Individuen geben, die neutrale Programme und Ähnliches in missbräuchlicher Weise instrumentalisieren

Mecha Hitler als neutrales Programm zu bezeichnen kann man machen.

 

[LorD-AcE]

Freedom of Speech, oder so... keine Ahnung, nehme kein Keta

 

[swiffer]

Ist das unbewusste Unfähigkeit oder bewusst ideologisch politisches Framing:

Grok erstellt das was der Nutzer im aufträgt. Die Überschrift wäre also: Nutzer missbrauchen Grok für das Erstellen sexualisierter Inhalte von Frauen und Minderjährigen

Und dann wundert man sich wieso das Vertrauen in die Qualität und Seriosität von Journalismus schwindet.

Klickt sich halt besser... - wird aber im Subtitel direkt korrigiert 😉

Primaer ist es ein Werkzeug, genau wie Photoshop auch - ist die Verbeitung deshalb in Ordnung - Nein!
Lassen sich deshalb in Photoshop Bilder nicht mehr abspeichern sobald da ein Bikini reinretourschiert wurde? - Nein!

Hier mal ein paar Argumente aus dem entsprechenden Heise Thread die hier bisher nicht gefallen sind:

https://www.heise.de/forum/heise-on...-ein-Photoshop-Skandal/posting-45868325/show/

https://www.heise.de/forum/heise-on...as-Nutzer-von-ihr-will/posting-45868241/show/

https://www.heise.de/forum/heise-on...indern/Medienkompetenz/posting-45868112/show/

 

[zittrig]

Wie immer gilt: Liegt alles am User.

Autoraserei in der Innenstadt, Böllerverletzungen- bzw. Todesfälle, KI-Nutzung ........ Die Menschheit ist oftmals einfach nur dumm!

 

[Matthias B. V.]

Schade was aus Elon Musk geworden ist und was der Typ sich alles aus den Händen zaubert. Da sieht man, dass es nicht gut ist wenn einzelne Personen auf der Welt so viel Geld besitzen!
Und dem werden Ermittlungen am Arsch vorbei gehen.

X sollte meiner Meinung nach sowiso gesperrt werden. Ich finde es auch ein Unding das unsere Schweizer Politiker auf einer solchen Plattform Posten, anstelle Europäische Alternativen zu nutzen.

Geht es nur um billiges Elon Bashing oder werden Ihr auch andere AI Tools löschen.

Ist Grok das Problem oder der Nutzer?

 

[Dr.Death]

Ich werde aber derzeit mit "Vorschlägen" bombardiert.... Egal wo man sich rumtreibt, überall das selbe....

Tatsächlich? Ich sehe nirgends Werbung für Grok. Klar, auf manchen Artikeln ist mal ein x-Post eingebettet, aber nichts, was mich dazu animieren soll (oder könnte), da noch mal mit zu machen...

Was die Sache als solche angeht: Mich schockiert mittlerweile nicht mehr die Aussage, dass die Medien lügen würden, das predigt Musk ja seinen Jüngern seit Jahren, damit sie lernen, ihm alles zu glauben. Für mich ist das nur ein weiteres Argument, Musk und alle seine Produkte, die ja nur dazu dienen, seine (Markt-)Macht und seinen persönlichen Profit zu mehren, zu boykottieren.

 

[MariaDocks]

Es liegt in der Natur des Menschen auszuprobieren was möglich ist, im Positiven sowie im Negativen.
Jetzt bekommen aber alle Menschen auf einmal ein größtenteils unreguliertes Werkzeug an die Hand was dann teilweise das Schlimmste in manchen Menschen hervorruft weil es ja so anonym geht das man ja auch nichts zu befürchten muss.

Könnte man als eine Büchse der Pandora sehen, nur das diese sich nicht wieder schließen wird ohne das wir uns selbst technisch gesehen wieder in die Steinzeit bomben.

Mir tun die Opfer leid und da finde ich Worte wie: "Deswegen lädt man ja auch nichts ins Internet hoch." unangebracht.
Wie viele Millionen von Bildern wurden eben nicht selbst hochgeladen?
Und selbst wenn dann habe ich ein Recht darauf das es nicht gespeichert, bearbeitet wird oder überhaupt irgendwas.
Das war auch ohne KI schon so.

Was ich aber unterstütze wären Hinweise bei jedem Upload nochmals genau zu prüfen was man da hochlädt und welche Gefahren bestehen.
Weiter sollten Anbieter von KI's bei solchen Bikini-Anfrage-Prompts verpflichtet sein zu warnen das man sich unter Umständen im jeweiligen Land ganz real strafbar macht.

In unserer Community sind gewisse ungeschriebene Regeln klar was unsere Daten betrifft, naja manchen doch nicht so, aber größtenteils.
Nur wenn ich das meiner Mutter erkläre das sie unsere Weihnatsfotos nicht mal schnell an alle "Freunde" posten soll dann sehe ich bis zur Erklärung des Warum erstmal verständnislose Blicke.