News KI-Bildbearbeitung auf X: Grok erstellt sexualisierte Inhalte von Frauen und Minderjährigen

[xarfei]

@Volkimann Also müssen wir uns jetzt in die prüde zeit um 1900 zurückentwickeln weil Bikinis plötztlich total indiskutable sind und zuviel nacktheit zeigen?

Die mehrheit empört sich doch nur weil se wider was gefunden haben um gegen ihr feindbild elon musk zu schießen!

Also wenn ihr das durchziehen wollt, sofortiges verbot von google, otto katalog, bader katalog etc. oder gibts da keine bilder drinn?

und wie reflexhaft hier sofort wider nach staatlicher kontrolle gerufen wird macht mir inzwischen sogar angst.

 

[IBISXI]

Der springende Punkt ist, dass es gar nicht erst möglich sein sollte, solche Inhalte mit Grok zu erstellen.

Das sehe ich anders.
Was Leute Privat damit machen, kann mir egal sein.

Nehmen wir an, jemand macht mit Bilddaten einer anderen Person ein privates Foto oder Video und dieses wird nicht veröffentlicht.
Wird dadurch jemand geschädigt?
Ich denke nicht.
Es ist ja nichts davon echt, außer vielleicht das Gesicht.
Nichts davon hat stattgefunden und das ist jedem klar.

 

[cruse]

geht mit Gemini genau so..... und X hat mittlerweile reagiert https://x.com/iam_smx/status/2007490225279574364

Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content

also keine konsequenzen 🤡

 

[Drakrochma]

Zeigt mal wieder erschreckend wie sehr es viel zu vielen Menschen pauschal erst mal um clicks und Likes geht und Moral und Anstand hinten runter fallen.

Das Problem ist nicht das Tool, sondern dass alles, womit man Mist machen kann, auch dazu verwendet wird.

Also wieder ein eigentlich nicht schlechtes Tool, das man besser weg sperrt bevor Mist damit gemacht wird...

 

[peru3232]

"Leider" hilft Zensur wie IMMER nicht - sie beschränkt und kasteid nur diejenigen, die ohnehin nichts böses im Sinn haben. War so, ist so und wird auch immer so sein. Wenn es das nicht wäre, gäbe es keine Probleme mit Raubmordkopierern und eben KiPo Verbreitern. Denn legal ist das alles nicht und beschränkt ist es auch.

Sobald es die Technik gibt, wird sie eingesetzt. Und wenn es überall komplett zensiert würde, finden die Leute die es finden wollen, es eben im Darknet. Und sollte dies mal abgedreht werden können, wird die Software eben wie in früheren Zeiten Face2Face verbreitet. Vermutlich wird es damit nicht besser, eher gegenteilig - im Ausgangsprogramm ist keinerlei Zensur eingearbeitet, die kann dann wirklich hemmungslos mißbraucht werden. Zwar dann nicht von Tante Emma, oder Onkel Heinz, weil die kommen nicht an die Software -> aber genau die würden eh niemals solche Bilder generieren.

Egal um welches Thema es geht - sobald zensiert wird, stirbt Freiheit und hilft niemandem. Was hilft ist Kompetenz aufzubauen - und vor allem auch konsequent Missbrauch in jeglicher Form hart zu ahnden. Denn sehr viele Täter kommen auch straffrei oder mit Bagatellstrafen davon, die wirklich Kinder (sexuell) missbrauchen. Gäbe es das alles nicht (z.B. die Rudelvergewaltigung in Wien einer 12jährigen, wo die Täter dann lachend und straflos das Gericht verlassen konnten, oder Kindergärtner die nach dutzenfachem Mißbrauch wegen Reue nur Bewährungsstrafen erhalten), dann wären wir viel viel weiter!

 

[Supie]

So etwas sollte nur für private Zwecke genutzt werden, und Verbreitung geahndet werden (geht ja eh schon, über "das Recht am eigenen Bild"), dass würde das Problem wohl schon entscheidend verkleinern.

 

[mynameisrudii]

Wieder ein Beispiel, dass KI nicht nur Gutes generieren wird.

Nicht nur?

Eher fast nur Unsinn

 

[cruscz]

Nur ein kleiner Teil des Problems.
Hier ist ja nur die Bildgenerierung erwähnt, des das ganze unlängst in Videoform möglich ist (und dabei in Qualität, die nicht nur die „Generation Facebook“ narrt). Wenn auch vielleicht nicht direkt bei einem der Großen wie xAI.
Leider würde da auch Regulierung oder z.B. Vorgaben hinsichtlich eingebundener Urheberinformationen da wenig nützen. Es gibt genügend Staaten die sich entsprechender Vereinbarungen verweigern würden. Selbst die USA z.B. ignorieren ja den internationalen Strafgerichtshof, sanktionieren deren Richter ja sogar.

 

[Volkimann]

warum ist es bei erwachsenen Frauen so schlimm?
Männer egal , ist das nicht Sexismus?

Weil Frauen "komischerweise" offensichtlich nicht großartig gefälschte sexualisierte KI Bilder erstellen. Das Problem sind hier hauptsächlich Männer.
Was daran bei erwachsenen Frauen so schlimm ist?
Okay, stell dir vor, diese erwachsenen Frauen haben auch das Recht am eigenen Bild, diese haben Persönlichkeitsrechte und sind nicht das Lustobjekt für irgendwelche notgeilen Typen.

Du kannst dich nicht in eine Frau hinein versetzen, welche nicht auf ihren Körper reduziert werden möchte? Die nicht möchten, das sie als 5 gegen Willi Vorlage dienen möchten?
Frag dich doch mal, ob deine Mutter, Schwester, Tante oder gar mal deine eigene Tochter nur als sexualisiertes Objekt angesehen werden möchten.

 

[CastorTransport]

Ausgerechnet bei den in der Öffentlichkeit so prüden Amerikanern, was Sexualität betrifft. Und gerade bei Minderjährigen erst.

Das schieben viele Länder nur als Grund vor "den Schutz von Minderjährigen und Kindern", um Dinge wie VPNs zu verbieten (ist in einigen Staaten der USA schon verboten worden, VPNs zu nutzen und zu betreiben).

Das ein AI Tool bestimmte Dinge kann, ist eine Sache. Das Nutzer dies ausnutzen, eine andere Sache. Das der Konzern (Billionär) dahinter keine Sicherheitsmechanismen vorgesehen hat, sicher fatal.

Um "social Media" und "AI" in den Griff zu bekommen, muss die EU bei uns ein Netz von Gesetzen über diese hüllen, so wie die Gesellschaft auch von Gesetzen im Zaum gehalten wird.

Man muss den Konzernen schon vorher irgendwie dankbar sein, das direkt vom Start weg die Makel auffallen ;-)

 

[smuper]

@Robert.

Mach doch mal eine Auswertung, vielleicht findest du ja auch einen betroffenen "Robert".

Immer diese sinnlosen Scheindebatten.

 

[Valkyrissa]

Das kommt vollkommen unerwartet. Niemand hätte damit gerechnet, dass solche features für perverse Zwecke missbraucht werden. (edit: ja, Sarkasmus)

AI ist die Büchse der Pandora, von Techbros geöffnet.

 

[chrissummers]

@Robert.

1. Der Artikel spricht von "Prominenten" und "Minderjährigen", also unabhängig des Geschlechtes. Dass auch Frauen explizit erwähnt werden, ist wohl der Tatsache geschuldet, dass es mit extremer Deutlichkeit mehr Frauen sind, die hier sexualisiert werden.

2. Du fändest es also in Ordnung, wenn zum Beispiel Bilder von einer Lehrerin oder einer Ex-Freundin sexualisiert und dann im Internet verbreitet werden, wenn diese Person volljährig ist? Bilder von dir auch? Vielleicht mit tollen Vorlieben...?

 

[Booth]

Klar, es ist irgendwie beliebt, bei jedem potenziellen Risiko gleich alles zu verbieten.

Nicht verbieten. Regulieren.
Hättest Du lieber einen Strassenverkehr ohne Regeln? Ohne Schilder? Ohne Geschwindigkeitsbegrenzung?

Wieso denken hier immer mehr Leute so dermaßen schwarz und weiss? Ach so... richtig ... weil die Algorithmen von unsozialen Medien genau das fördern. So zerstören IT Systeme nach und nach unsere Gesellschaften und Du bist eines der vielen Beispiele, wie gut das klappt.

Ganz weird ist dann diese Passage von Dir:

Eine große Debatte darüber würde hier definitiv zu weit führen. Trotzdem rege ich mal kurz an, zu überlegen, ob wir uns komplexe Themen nicht manchmal zu einfach machen, indem wir einfach alles verbieten.

Wie wär es mir einer kleinen Debatte? Aber ne... in Deinem Kopf scheinen wirklich nur noch Extreme zu existieren, die Du auch direkt anderen unterstellst.

Es geht nicht darum "zu verbieten" sondern darum zu REGULIEREN. Menschen brauchen Regeln.
Und ja ... die Debatte über Regeln ist keine Sportveranstaltung. Aber wenn Du selber sie (hier) ablehnst, gleichzeitig einen Strohmann als Gegenposition aufbaust ist dass eine wirklich ziemlich destruktive Haltung.

Du hast das Schießen und Waffen angesprochen. Den Unterschied zwischen wenig Regulierung und mehr Regulierung kannst Du doch in den USA sehen.

 

[Renegade334]

Das ist doch ein fast unlösbares Problem.

Entweder man filtert, wobei es immer Kollateralschäden gibt, oder man filtert nicht und muss damit rechnen, dass Ergebnisse generiert werden, die nicht erwünscht sind.

Ich wollte z.B. mit Copilot mal bei einem Familienfoto zum Spaß alle Personen 10 Jahre älter generieren lassen.
Das wurde dann mit einem Hinweis auf "Persönlichkeitsrechte" verhindert. Da wird also scheinbar jede Änderung von bestehenden Personen auf Fotos komplett blockiert.
Copilot blockiert also zu viel und Grok zu wenig. Aber im Prinzip sind es auch nur Werkzeuge. Wer will kann ja auch ein lokales Modell nehmen und findet immer Wege Sperren zu umgehen. Den Anbietern geht es auch eher um schlechte Publicity als um reale Beschwerden.

 

[luckysh0t]

Das schieben viele Länder nur als Grund vor "den Schutz von Minderjährigen und Kindern", um Dinge wie VPNs zu verbieten (ist in einigen Staaten der USA schon verboten worden, VPNs zu nutzen und zu betreiben).

Ich weiß nicht, ob das "urban legends" sind, aber auch schon lange davor, hatte man so seine Probleme dort, wenn man sich in der Nähe eines Kindergartens etc. in der Öffentlichkeit erleichtert.

Aber wie gesagt, das ist sehr, sehr lange her, dass ich sowas mal gehört habe, daher nicht mal wirklich möglich wirklich zu verifizieren - da es am Ende vermutlich auch noch auf den Bundesstaat ankäme

 

[_Cassini_]

Eher fast nur Unsinn

Also ich nutze die KI in 90% der Fälle nicht für Unsinn, da sie ein ganz guter Helfer im Alltag und auf Arbeit ist.

Wieviele hier auch gleich wieder nach Verboten und Regulierungen schreien. Habt ihr eigentlich schon mitbekommen, dass das seit mehreren Jahren jeder zu Hause auf seinem Rechner machen kann? Grok macht hier nichts Neues, es wird einem eben nur etwas einfacher gemacht. Vor allem ist Grok nichts im Vergleich zu dem, was man mit Stable Diffusion so machen kann. Schaut mal auf CivitAI vorbei und macht mal den NSFW Filter aus.

Die Verantwortung sollte man doch lieber bei denen suchen, die das ausnutzen und online stellen. Oder nicht?

 

[Shelung]

Postet keine Bilder eurer Kinder online.

Das einzige was ihr tun könnt um sie zu schützen.

 

[Alphanerd]

Minderjährige geht mal nicht

Ja.

warum ist es bei erwachsenen Frauen so schlimm?

WTF?

Männer egal ,

Wo steht das?

Was daran bei erwachsenen Frauen so schlimm ist?
Okay, stell dir vor, diese erwachsenen Frauen haben auch das Recht am eigenen Bild, diese haben Persönlichkeitsrechte und sind nicht das Lustobjekt für irgendwelche notgeilen Typen

So nämlich @Robert.
Stell dir vor, man macht das mit deiner Mama, Frau, Schwester, Tochter.

 

[Atma]

Ich glaube wenn viele hier wüssten was abseits der großen AI Plattformen wie Grok, ChatGPT, Gemini etc. abgeht, würden sie ohnmächtig vom Stuhl fallen

Es gibt unzählige Chekpoints und LoRas basierend auf Stable Diffusion, Z Image Turbo oder anderen LLMs die explizit auf die Erstellung von NSFW Content trainiert wurden. Die funktionieren lokal auf dem eigenen PC und sind völlig unzensiert und ohne Restriktionen. Dagegen sind Bikini-Bildchen von Grok doch gar nichts.