News KI-Bildbearbeitung auf X: Grok erstellt sexualisierte Inhalte von Frauen und Minderjährigen

[iron_monkey]

Und dem werden Ermittlungen am Arsch vorbei gehen.

Was soll auch passieren, wenn ein Herr mit orangem Haar einfach eine Begnadigung aussprechen kann/wird. War wohl eine "gute" Investition aus Sicht des Marsmenschen...

 

[andi_sco]

Grok erstellt das was der Nutzer im aufträgt. Die Überschrift wäre also: Nutzer missbrauchen Grok für das Erstellen sexualisierter Inhalte von Frauen und Minderjährigen

Und es gibt natürlich null Möglichkeiten, das zu unterbinden?

 

[TeeKayEV]

Ist das unbewusste Unfähigkeit oder bewusst ideologisch politisches Framing:

Und dann wundert man sich wieso das Vertrauen in die Qualität und Seriosität von Journalismus schwindet.

Auf Vertrauen von Musk-Fanboys kann der Journalismus gut verzichten. Softwaresysteme können so ausgelegt werden, dass man diese Bilder eben nicht erstellen kann. Google Gemini könnte dafür nicht verwendet werden.

 

[MaverickM]

Gier frisst Moral.

Ich glaube nicht, dass das Gier getrieben ist. Das ist schlichtweg die Position von Musk und Co. Es ist gewollt, dass Grok das kann.

 

[LordAKA]

Wird Zeit, das Elmo der Zahn gezogen wird…

Aber der korrumpiert zusammen mit der US-Regierung des DSA der EU.
Der weiß schon, warum…

 

[k0ntr]

ziemlich unglücklich, ok. aber das lässt sich beheben. es zeigt aber unzensiert, wie menschen drauf sind und gerade dafür feier ich X, da man vieles zu sehen bekommt, was vielleicht nicht immer schön ist. ABER GENAU SO SIND MENSCHEN, NICHT IMMER KORREKT. Solange dieses Problem behoben wird ist alles ok.

 

[dman]

Hä?...die Ki wird gefüttert mit weird bullshit und sie gibt sie sogar aus...sorry,aber das Problem sitzt vor dem Rechner

Gruß

 

[m4c1990]

Ich habe mal ein Bild (Mann, Lüftungsschacht, Halbe Pistole) Erweitern wollen, weil das Thema "Die Hard" war und mein sauteures **** xiaomi smartphone meinte das ist gegen deren Richtlinien...
Irgendwie gibt es keinen Mittelding, die KI wird entweder zu wenig oder zu hart kastriert...

 

[Che-Tah]

Ist das unbewusste Unfähigkeit oder bewusst ideologisch politisches Framing:

Grok erstellt das was der Nutzer im aufträgt. Die Überschrift wäre also: Nutzer missbrauchen Grok für das Erstellen sexualisierter Inhalte von Frauen und Minderjährigen

Und dann wundert man sich wieso das Vertrauen in die Qualität und Seriosität von Journalismus schwindet.

Das selbe Argument wie die Amerikanische Waffenlobby... das Problem sind die Leute und nicht die Waffen?
Und Napster, uploaded.to usw. konnte auch nichts dafür was bei ihnen so hochgeladen wurde?

Ziehmlich kurzsichtig.

 

[DonDonat]

Ganz einfach. Generiert massenhaft Musk Bilder und schon hat sich die Sache. Andere Menschen und deren Leiden? Egal. Musk ist DER WICHTIGSTE und NUR wenn es ihn betrifft wird es relevant!

Dürfte am Ende so ziemlich niemanden überraschen, der den Werdegang von Musk und seinen Produkten verfolgt: Safety und Security sind da niemals "by design" und weil Testen und Ethik unwichtig sind, kommt dann am Ende sowas hier raus.

 

[mr_andersson]

Ich habe es gerade mal ausprobiert und es hat nicht geklappt. Ganz so einfach scheint es dann doch nicht zu sein.

 

[S.Evans]

Weniger die Möglichkeit DAS es geht wundert mich, als das X / Grok sowas ohne irgendwelche Schranken erlaubt hat.

 

[xarfei]

Und nun springen wir mal zurück in die realität und lassen künstliche empörung sein. es handelt sich bei den "sexualisierten inahlten" nicht um porn, weil nackheit erstellt grok oder x.ai bildgenerator nämlich gar nicht. es handelt sich in dem falle um bilder bei denen frauen z.b. ein bikini angezogen wurde (google muss sofort verboten werden, ich kann frauenbilder in bikinis googeln). und bei dem teil mit minderjährigen war der fall auch das es halt wohl ne 15 oder 16 jährige im bikini war. also muss grok oder sonstige bildgeneratoren in zukunft ne gesichtserkennung machen, die ausweis daten online abrufen um zu prüfen ob der aufm bild 18 ist?

 

[Sierra1505]

Ich habe bisher eigentlich gerne Dinge ergänzend mit LLMs recherchiert. Auch weil mich deren Funktionalität nach wie vor interessiert.

Der Abfall im Consumer-Bereich den man jedoch parallel wahrnimmt nimmt in rasanter Geschwindigkeit zu.

YouTube-Kanäle-Flut

AI-Slop generell

Diese Masse an KI-Generierten Müll die man von Bekannten erhält die vermeintlich lustig sein soll.

Oder offensichtlich KI-Generierte Videos die einem aus Erstaunen gesendet werden, weil die Leute glauben der Krempel wäre wahr.

Nun auch noch DeepFakes von explizit dargestellten Kindern. Und es wundert mich einfach null.
Ich persönlich empfinde SocialMedia bzw. das was es ist (nicht wofür der ursprüngliche Gedanke dahinter möglicherweise mal stand) als die reinste selbstproduzierte Pest.

„Legacy Media lies“ untermauert meine Meinung dazu nur umso mehr. Elon Musk steht symbolisch für die Einstellung die den Plattformbetreibern zugrunde liegt.

 

[DerMond]

Wieder ein Beispiel, dass KI nicht nur Gutes generieren wird. Kann meiner Meinung nach weg. Die Technologie muss erstmal reifen, bevor es beim Endkunden ankommt. Die KI-Konzerne wollen zu viel zu schnell. Kosten und Schäden sind egal.

Nicht "nur" Gutes? Du Scherzkeks, KI wird zu 99% für negative und betrügerischere Absichten genutzt. Für jeden positiven Aspekt gibt es 99 negative. Der ganze Müll ist die reinste Seuche.

 

[DerAnKo]

wow einfach nur wow und dann passiert nichts? Traurig, X meiden!

 

[amorosa]

Jeder, der damit sexuelle Inhalte von Kindern erstellt....Ich darf es hier leider nicht schreiben, das könnte heikle Konsequenzen nach sich ziehe , also drücke ich es sehr SEHR mild aus : Jeder der das machen lässt, sollte überprüft werden. Alleine auf so einen Gedanken zu kommen ist einfach nur KRANK.

 

[IBISXI]

Solange Menschen X nutzen, wird sich nichts ändern.

Es wird sich sowieso nichts ändern.
Die Büchse der Pandora ist offen.
Mittel und Wege wird es immer geben.

Die Überschrift ist auch falsch.

Grok erstellt erstmal garnichts. Genauso wie eine Pistole niemanden erschießt.
Der ist nur das Werkzeug.

Deepfakes gab es schon Dekaden vor der KI.

Wenn jemand Bilmaterial von jemand anderem mißbraucht, gibt es Mittel sich zu wehren.

 

[Slim.Shady]

Ist das nun dieses Spektakel oder die Substanz, die Microsoft in der KI sieht?

Ich war "von Anfang des Social Media" an dabei. (ICQ, StudiVz, etc)
Es hätte so groß und so toll werden können.

Mein Opa hat genau Null Ahnung vom Internet. Der ist so alt, der hat nicht mal ein Handy. Und sagt seit gefühlt 30 Jahren, dass das Internet der größte Mist ist.
Solangsam werde ich dann auch alt genug, um zu begreifen was er meint.

 

[Conqi]

Die sexualisierte Darstellung von Männern ist also kein Problem, oder wieso wird dies implizit im Artikel ausgeklammert?

Weil man auch mal realistisch sein darf. Guck dich auf X um. Da sind keine hundert "Grok, mach Unterwäsche" Posts unter jedem Bild eines halbwegs attraktiven Mannes.

Ich hoffe dass X hier eine dicke Anzeige wegen Erstellung und Verbreitung von Kiddie-Prn bekommt, einfach widerlich.

Niemals. Da wird die Verantwortung auf die User abgewälzt wie immer. Sonst kannst du jeden KI-Dienstleister drankriegen. Nicht dass mich das stören würde.