News KI-Bildbearbeitung auf X: Grok erstellt sexualisierte Inhalte von Frauen und Minderjährigen

[aspro]

@Booth Ein Verkehrsschild gibt mir Regeln vor – letztlich sitze ich jedoch selbst am Steuer und entscheide eigenverantwortlich, ob ich beim Überholen mal fünf Sekunden schneller bin als vorgeschrieben.

Das ist doch überhaupt nicht der Punkt. Ohne Verkehrsregeln kann es keine Eigenverantwortung geben, schließlich hat man gar keinen objektiven Anhaltspunkt, was gerade angebracht ist, wenn man z.B. eine unbekannte Straße fährt. Man kann schließlich gar nicht wissen, ob und wo Gefahrenstellen sind. Wer dann trotzdem die Regeln bricht, ist man natürlich selbst für die möglichen Folgen verantwortlich.

Mit KI ist das doch ganz ähnlich. Ohne Regeln wird natürlich erstmal das maximal mögliche, auch im negativen, ausgereizt. So sind wir Menschen nun mal. Nach mir die Sintflut. Bei Tempolimits im Straßenverkehr kann man ja noch argumentieren, naja, umso schneller, umso schneller ist man am Ziel. Aber bei dem Thema? Nenn doch mal einen einzigen konkreten positiven Aspekt, wieso das im Artikel thematisierte erlaubt sein sollte. Und keine Strohmänner ala "es ist irgendwie beliebt [...] gleich alles zu verbieten."

Genau so möchte ich auch selbst bestimmen, ob ich vape oder nicht, ohne dass eine KI mir mit moralinsaurer Belehrung den Mund verbietet und einfach keine Auskunft gibt, weil sie das für „schädlich“ hält.

Keine KI verbietet dir das vapen, geschweige denn dass sie es könnte.
Btw es ist schädlich. Es ist eine Sache etwas schädliches zu machen, aber die offensichtlich belegte Schädlichkeit zu leugnen, ist schon albern.

Nennen es, wie du willst – ich nenne es schlicht Bevormundung. Und Bevormundung hat mit fairen Regeln herzlich wenig zu tun.

Dann such halt auf den dröfttausend anderen öffentlich zugänglichen Seiten nach Empfehlungen. Du tust gerade so, dass das ohne KI gar nicht mehr ginge.

 

[IBISXI]

Es bleibt aber nicht privat. Ich denke wir können alle davon ausgehen, dass die erstellten Bilder erstens für weitere Trainings der zukünftigen Modelle verwendet werden, möglicherweise auch verkauft werden und drittens werden viele Bilder auch mit anderen geteilt

Das ist aber kein Problem des Werkzeugs.

Mit einem Messer kann man Butter schneiden oder jemand abstechen.
Deshalb kannst Du keine Messer verbieten.
Wenn Du es tun würdest, würde die jemand selber machen.

Die Straftat begeht der Mensch, nicht die Maschine.
Genau deshalb liegt auch die Verantwortung beim Menschen.

Jeder weiß dass es gefährlich ist, bzw. teuer werden kann, ein Produktfoto zu klauen und für eigene Zwecke zu verwenden. (z.B. Ebay Autkion) Genauso sieht es mit KI-generierten Inhalten aus. Jeder hat das Recht zu Klagen und sich zu wehren. Damit das immer klappt, bräuchte es aber internationale Abkommen.

 

[s0undjan]

Egal um welches Thema es geht - sobald zensiert wird, stirbt Freiheit und hilft niemandem.

Das ist pauschal einfach Quatsch. Niemand verliert Freiheit, weil es ihm schwerer gemacht wird kinderpornografische Inhalte zu erstellen.
Freiheit ist zudem keine Einbahnstraße. Der eine will die Freiheit, sowas völlig unreguliert benutzen zu können versus der Andere will nicht mit Hilfe der K.I. für alle sichtbar sexualisiert werden.

 

[MalWiederIch]

Das finde ich sehr überraschend und hätte mit diesen Folgen bei der AI Bildergenerierung auch niemals gerechnet!

Du hast das obligatorische /s vergessen, ansonsten glaubt wirklich noch jemand, dass du so naiv wärst

Und es gibt natürlich null Möglichkeiten, das zu unterbinden?

Was ändert das an seiner Aussage:

Ist das unbewusste Unfähigkeit oder bewusst ideologisch politisches Framing:

Grok erstellt das was der Nutzer aufträgt. Die Überschrift wäre also: Nutzer missbrauchen Grok für das Erstellen sexualisierter Inhalte von Frauen und Minderjährigen

Scheinen ja nicht gerade wenige hier auch so zu sehen:

Mit Abstand die meisten „Gefällt mir“ hier in den Kommentaren…

 

[Alphanerd]

Auf der anderen Seite verschwinden solche Neigungen nicht weil es keine Inhalte gibt. Und dann stellt sich die Frage ob AI generierte Inhalte echten Inhalten vorzuziehen sind.

Dafür gibt es Hilfsangebote wie zb "Kein Täter werden" https://kein-taeter-werden.de/

Ich bin liberal. Jeder soll schnackseln wen und wie er will. Solange alle Beteiligten einverstanden und volljährig sind. Klar, 2 16 jährige natürlich auch. Es ist immer eine Frage des Consent.
Und consent ist auch das Thema, wenn es um das ungefragte abändern von Bildern von Erwachsenen geht. Da ist nix richtig dran.

 

[Meta.Morph]

Ohne Regeln wird natürlich erstmal das maximal mögliche, auch im negativen, ausgereizt. So sind wir Menschen nun mal. Nach mir die Sintflut

Das trifft definitiv nicht auf jeden zu!

Aber lustig, das ich das hier lese. Denn in der Analyse, warum sind die Rechten und die Neoliberalen so stark und warum geraden freiheitlich denkende Menschen so sehr ins Hintertreffen: das ist der Kern, warum das so ist.

Es gibt Menschen, die reizen das System aus, die bringen es an die Grenzen und darüber hinaus. Moral, Anstand, Ethik spielen keine Rolle. Die nehmen für sich das heraus, was möglich ist. Die Anderen schauen sich das an und sagen: "Das mach ich nicht. Das ist mir zu Schmutzig." Aber man ist dann eben auch immer im Nachteil!

Vor dem Recht, müsste Amoralisches und Rücksichtsloses Verhalten viel stärker sanktioniert werden. Stattdessen feiern wir Menschen wie Elon Musk ab; "er ist da so erfolgreich und smart". Gut, er zeigt in letzter Zeit offen sein Asoziales Verhalten aber konsequenten hat das dennoch keine.

 

[immutef]

It's always the ones you most expect. Shocking!

 

[Zhenwu]

Nonsense. Wenn ich zulasse, dass mein Produkt Kinder Pornographie zumindest im Ansatz zulässt, bin ich in erster Linie das Problem. Aber es ist ja Musk, dein Messias, richtig?

Keine Ahnung, ob ich schon darauf geantwortet habe.

Dann sind die ganzen CEOs und Chefs von allen Bildbearbeitungstools auch ein Problem. Denn die haben auch keine Mechanismen.

Dabei gibt es doch bereits gesetzte, die das Missbräuchliche verteilen/bearbeiten von Bildern untersagt. Das Urheberrecht!

Die, die die Werkzeuge missbräuchlich verwenden, gehören angezeigt und dann entsprechend, von einem Richter, verurteilt.
Bockt im unSozialMedien nur keinen.

Sollen wir das Internet abschalten, weil es das Transportmittel ist?
GPS verbieten, weil es Stalking ermöglicht?
Dynamit???

 

[FX9590]

Es mag schmerzen, aber sowas wird in wenigen Jahren quasi jeder Zuhause auf seinem Mediamarkt Laptop oder seinem 199 Euro Smartphone sogar offline machen können. Und kein Protest, kein Geschrei wird es aufhalten.

Ich vermute, dass es dann einfach niemanden mehr interessieren wird weil jeder sofort weiß: Deepfake (Gähn)

Die Welt dreht sich weiter, so oder so! Ich (BJ 1972) kann auch teilweise nicht fassen was heute "normal" ist aber rege ich mich auf? Nö! Geht mir doch sonst nur aufs Herz und der Maßstab ändert sich eben. 🤷🏽‍♂️

Wir gehen eben weiter in Richtung "Schöne neue Welt" und ganz ehrlich? Ich hätte Lenina fröhlich in die Arme geschlossen und mir gedacht: Man muss sich anpassen. ♥️😏

 

[Kaufmannsladen]

Wenn jemand Fake-Photos in sozialen Netzen teilt, dann ist das nicht die Schuld eines Bildgenerators.

Wenn die Leute mit Photoshop selber Fake-Bilder erstellen würden, dan würde trotzdem kein Mensch auf die Idee kommen Photoshop verbieten zu wollen oder Adobe zu zwingen, dass die Software das verhindert.

Dann sind die ganzen CEOs und Chefs von allen Bildbearbeitungstools auch ein Problem. Denn die haben auch keine Mechanismen.

Der alte "AI ist das gleiche wie Photoshop"-Trope. Aber nicht alles, was hinkt, ist ein Vergleich

Photoshop ist ein lokales Bildbearbeitungsprogramm, wofür man die entsprechenden Fähigkeiten, Assets, Zeit und kriminelle Energie benötigt. Am Ende muss das man das Bild selbst erstellen. (Disclaimer: Firefly fällt natürlich in die untere Kategorie)

AI-Bildgeneratoren wie das von Grok laufen auf den Servern einer Firma und jeder Hansel kann sie nebenbei und in großem Stil nutzen. Hier lässt man ein Bild erstellen.

 

[The-Heinz]

Keine Ahnung, ob ich schon darauf geantwortet habe.

Dann sind die ganzen CEOs und Chefs von allen Bildbearbeitungstools auch ein Problem. Denn die haben auch keine Mechanismen.

Dabei gibt es doch bereits gesetzte, die das Missbräuchliche verteilen/bearbeiten von Bildern untersagt. Das Urheberrecht!

Die, die die Werkzeuge missbräuchlich verwenden, gehören angezeigt und dann entsprechend, von einem Richter, verurteilt.
Bockt im unSozialMedien nur keinen.

Sollen wir das Internet abschalten, weil es das Transportmittel ist?
GPS verbieten, weil es Stalking ermöglicht?
Dynamit???

Was du übersiehst, ist der Fakt das der generierte Inhalt ausschließlich für das veröffentlichten im Netz / auf X vorgesehen ist. Privater Missbrauch ist das eine, diesen öffentlich zuzulassen und ist halt Elon style. Kannst ja mal versuchen ihn im NS Uniform generieren zu lassen und zu veröffentlichten.

 

[nciht]

Wieder ein Beispiel, dass KI nicht nur Gutes generieren wird. Kann meiner Meinung nach weg. Die Technologie muss erstmal reifen, bevor es beim Endkunden ankommt. Die KI-Konzerne wollen zu viel zu schnell. Kosten und Schäden sind egal.

Muss das Internet selbst dann ggf. noch "reifen"? Der ganze Schund der da zu finden ist, zeigt ja auch recht deutlich, wie es nicht nur "Gutes" hervorbringt.

Menschliches Fehlverhalten auf die KI zu schieben ist doch wirklich Unsinn. Jeder mit Stift und Papier kann verachtenswertes produzieren, Küchenmesser können für Gewalttaten missbraucht werden und wenn jemand in einem Zeichenprogramm Kinderpornografische Inhalte erstellt, würdest du auch nicht auf die Idee kommen, die Software sei schuld an dem ganzen und nicht "ausgereift".

Du kannst nicht dem Werkzeug/der Technologie die Schuld geben - Die KI-Konzerne haben hier keinen Schaden angerichtet zu dem sie sich schuldig bekennen müssten - Was man mit den Werkzeugen macht liegt in der Hand der Nutzer und die müssen das auch verantworten zusammen mit denen die es verbreiten (in diesem Falle X). Das Erstellen und die Verbreitung solcher Inhalte (egal mit welchen Mitteln) steht so oder so schon unter Strafe.

Mit KI ist das doch ganz ähnlich. Ohne Regeln wird natürlich erstmal das maximal mögliche, auch im negativen, ausgereizt.

Ohne Regeln? Die Gesetze haben sich doch mit der KI nicht geändert. Kinderpornografisches darf halt nicht erstellt oder verbreitet werden, unabhängig davon ob man dazu KI nutzt oder nicht. Wozu sollte man da also bezogen auf KI noch mal extra Gesetze schaffen, die das erstellen von Kinderpornografie doppelt verbieten? Einschränkungen der KI selbst führen immer dazu, dass sie Verwerfliches erkennt wo nichts Verwerfliches ist.

Die KI würde sich z.B. weigern die Illustrationen eines Kinderbuches über den eigenen Körper und die Entstehung von Babys zu erstellen. Der Entwickler erkennt das Problem und fügt derartige Ausnahmen hinzu und schwupps hat man mit den richtigen Promt wieder eine Möglichkeit Verwerfliches zu erstellen, weil die KI das nicht mehr als verwerflich betrachtet. Du wirst jedes Thema irgendwie mit dem richtigen Promt umschiffen können. Selbst wenn du es schaffst dass alle KI-Modelle der größeren Unternehmen keine Kinderpornografie erstellen können, kann man heute mit recht wenig Aufwand ein eigenes Modell erstellen, dass diesem Mächtig ist und das auf den gleichen Wegen verbreiten, wie das verbotene Material bisher verbreitet wird. Alle KI-Modelle bei denen eine Registrierung nötig ist, am besten noch welche die bezahlt werden, wird eh niemand zur Erstellung von Kinderpornografie nutzen wollen - Da kann man auch gleich seinen Namen unter das Bild schreiben.

Das wäre imho auch der gangbare Kompromiss. Eine komplett uneingeschränkte KI gibt es nur gegen Überprüfung der Personalien - Damit dürfen dann auch legale nicht jugendfreie Inhalte erstellt werden. Erkennt die KI dass jemand sehr verdächtige und eventuell gegen das Gesetz verstoßende Inhalte erstellt, leitet sie das an einen Sachbearbeiter weiter, der das dann ggf. an die entsprechenden Behörden weiterleitet. Alternative Ki-Modelle, die lokal genutzt werden können, ohne irgendeine Beschränkung, wird man trotzdem nicht aus der Welt schaffen können.

 

[The-Heinz]

Scheinen ja nicht gerade wenige hier auch so zu sehen:
Anhang anzeigen 1693629
Mit Abstand die meisten „Gefällt mir“ hier in den Kommentaren…

Ja, in den USA gibt es ja auch genug, die mehr als 10k Schusswaffentote und regelmäßige Schoolshootings nicht als Problem der liberalen Waffengesetze sehen. Der moralische Kompass ist dahin, es regiert Selbstsucht und Narzissmus. Die likes sind der Beweis. Bei Elon News gibt es aber auch immer eine fröhliche fanboy Horde, die zum verteidigen vorbeikommt.

 

[Jongleur666]

Ach so. Wieso gibt es dann keine Beschränkung für Adobe?
Immerhin ist da sowas seit Jahrzehnten möglich.

Bitte eine Quelle dafür, dass Adobe KI tatsächlich sexualisierte Bilder von Jugendlichen oder Kindern GENERIERT.

 

[Zhenwu]

Der alte "AI ist das gleiche wie Photoshop"-Trope. Aber nicht alles, was hinkt, ist ein Vergleich

Photoshop ist ein lokales Bildbearbeitungsprogramm, wofür man die entsprechenden Fähigkeiten, Assets, Zeit und kriminelle Energie benötigt. Am Ende muss das man das Bild selbst erstellen. (Disclaimer: Firefly fällt natürlich in die untere Kategorie)

AI-Bildgeneratoren wie das von Grok laufen auf den Servern einer Firma und jeder Hansel kann sie nebenbei und in großem Stil nutzen. Hier lässt man ein Bild erstellen.

Ach so. Wenn ich mir ein Bild von X nehmen, da bearbeite in PS und dann wieder in X hochlade ist das natürlich was ganz anderes.
Ist klar.

Was du übersiehst, ist der Fakt das der generierte Inhalt ausschließlich für das veröffentlichten im Netz / auf X vorgesehen ist. Privater Missbrauch ist das eine, diesen öffentlich zuzulassen und ist halt Elon style. Kannst ja mal versuchen ihn im NS Uniform generieren zu lassen und zu veröffentlichten.

Fakt ist, ich kann jedes Bild, das ich bearbeite, hochladen, wo ich will. PS und Co. ist ja nicht nur auf Offline beschränkt. Wer sagt denn das PS nur privat missbraucht wird?

Bitte eine Quelle dafür, dass Adobe KI tatsächlich sexualisierte Bilder von Jugendlichen oder Kindern GENERIERT.

Hab ich was von KI gesagt, in Zusammenhang mit Adobe?
Nein, ich kann in PS Bilder genau so manipulieren wie es die KI tut. Mit KI gehts lediglich einfacher

 

[peru3232]

Das ist pauschal einfach Quatsch. Niemand verliert Freiheit, weil es ihm schwerer gemacht wird kinderpornografische Inhalte zu erstellen.
Freiheit ist zudem keine Einbahnstraße. Der eine will die Freiheit, sowas völlig unreguliert benutzen zu können versus der Andere will nicht mit Hilfe der K.I. für alle sichtbar sexualisiert werden.

den Rest hast Du nicht verstanden was ich schrieb oder? Also wo ich dies begründete, denn darauf bezogen ist Deine Wortmeldung hierzu einfach Quatsch, um bei Deinen Worten zu bleiben...

 

[MGFirewater]

Huch - da scheints den Michel bös aus dem Dornröschenschlaf gerissen zu haben. Dass es seit Ewigkeiten fotorealistische Fakes von so ziemlich allem und jedem (mit Bekanntheit) im Internet gibt, scheint ja ne richtige Neuigkeit zu sein. Ich schätze weil halt im Neuland.

Die Löschung ins Forum zu twittern ist das Substitut?

Kinder brauchen Regeln. Ich brauche eher die Freiheit selbstbestimmt handeln und entscheiden zu können.

schlimm genug das in den usa sich keiner traut musk als ceo wegen der verbreitung von kinderpornografie anzuzeigen bzw zu verklagen. denn dann nützen regeln nichts, weil sich die "erwachsenen" und ki-Bediener denke who cares.
In Deutschland gibt's aber zum Glück genug mecker Michels, die bei kindeporno.... bewusst eine strenge grenze ziehen und bisschen digital detox tut mir gut.

Und das jetzt mit einem promi-nude-fake zu vergleichen, Aua!

 

[Robert.]

Die gottlose Funktion wurde abgedreht, es geht nicht mehr ist mir gesagt worden.

 

[Jongleur666]

Ach so. Wenn ich mir ein Bild von X nehmen, da bearbeite in PS und dann wieder in X hochlade ist das natürlich was ganz anderes.
Ist klar.

Dein Ernst, dass du den fundamentalen Unterschied nicht verstehst? Oder wahrscheinlich eher nicht verstehen willst? Sorry, auf dem Niveau macht eine ernsthafte Diskussion für mich keinen Sinn.

 

[Meta.Morph]

Du kannst nicht dem Werkzeug/der Technologie die Schuld geben - Die KI-Konzerne haben hier keinen Schaden angerichtet zu dem sie sich schuldig bekennen müssten - Was man mit den Werkzeugen macht liegt in der Hand der Nutzer und die müssen das auch verantworten zusammen mit denen die es verbreiten (in diesem Falle X). Das Erstellen und die Verbreitung solcher Inhalte (egal mit welchen Mitteln) steht so oder so schon unter Strafe.

Zwar bin ich bei der Argumentation dabei - KI ist nur das Werkzeug. Denn noch kann man Großkonzerne wie X damit nicht so einfach freisprechen.

Keine andere Plattform ermöglicht es, derartige Inhalte zu erstellen. Nicht weil es nicht gehen würde. Es ist eine Einschränkung des Unternehmens.

Bei Open Source und Open Weights Modellen mag das anders aussehen. Meist sind die originale Modelle ebenfalls nicht in der Lage, täuschend echten Porn zu erstellen. Will man das, braucht es dann schon wieder knowhow. Das kann dann nicht "jeder".

Der Gute Elon will einfach das System abfackeln. Um nichts anderes geht es. Ihm sind die "Menschen zu empathisch". Das empfindet er als einen Fehler.
(das kann man sich nicht ausdenken...)