News KI-Bildbearbeitung auf X: Grok erstellt sexualisierte Inhalte von Frauen und Minderjährigen

[DJMadMax]

Grundsätzlich kann ein Messer nichts dafür, wenn jemand absichtlich damit verletzt wird.

Das ist das alte, leidige Thema. Die Kunst ist es also, das Ganze so zu regulieren, dass kein Schaden angerichtet werden kann.

Wenn jedoch keine Möglichkeit besteht, eine Sache so zu regulieren, dass sie sicher ist, dann sollte man sich einfach die Frage stellen, ob diese Sache überhaupt geeignet ist für eine Markteinführung.

 

[Neodar]

Ich wette, dass es da draußen mit Sicherheit auch die ein oder andere sexualisierte Darstellung von Männern durch diese "KI" gibt.
Warum also beschränkt man die Berichterstattung hier explizit auf Frauen und Minderjährige?
Ist sowas bei Männern einfach mal wieder "nicht so schlimm", oder wie darf man das verstehen?

 

[Blackfirehawk]

Ah ja.. das ist also das Potential von KI...


Hatte mich schon gewundert warum die Menschheit und insbesondere der Privatmensch all den klugen scheiss braucht und man überall KI Zentren baut.

Live Sprach Übersetzung.. cool..

Selbst fahrende Autos.. mäh

Überall ein KI-assistend zum Hintern abwischen.. nerfig aber wer es braucht..

Und in Wirklichkeit geht es um:

Gesichtserkennung und kontrolle
Deep Fakes und Pornos

Ein Hoch auf die Menschheit..

 

[Neodar]

'Social' media und AI haben haben diese Welt noch so viel kranker, kaputter und dümmer gemacht, als ich mir das vor 20 Jahren noch hätte vorstellen können.

Nichts und niemand ist durch social Media kranker oder dümmer geworden.
Durch social Media zeigt sich lediglich jedem auf der Welt, wie krank und dumm viele Menschen weltweit sind.
Was früher nur im stillen Kämmerlein abging und von dem deshalb niemand was wusste, wird heute ins Internet gekotzt, wo jeder den Irrsinn sehen kann.
Der Irrsin/die Dummheit war aber auch vorher schon da.

 

[xerex.exe]

Zeit seinen "Twitter" Account zu löschen!

Anhang anzeigen 1693207
Dauert leider 30 Tage [

Grundsätzlich sind AI und X nicht das Problem, sondern die gestörten Menschen. Von daher sinnlose Aktion.

 

[HAL9000Ti]

Wenn mir jemand mit einem Hammer eine Delle ins Auto haut ist natürlich der Hammer schuld.
Jetzt mal im Ernst. Solche Sachen waren vorher auch schon möglich nur aufwendiger. Ich halte es nicht für sinnvoll die KI so weit zu beschneiden dass alles kritische abgefangen wird, weil sie sonst nicht mehr sinnvoll funktionieren. Sowieso gibt es schon genügend komplett enthemmte Bildgeneratoren die man bei sich lokal laufen lassen kann. Eine Einschränkung macht auch deshalb nicht viel Sinn.
Es sollten die Leute belangt werden die solche Sachen generieren lassen.

 

[Lurtz]

Es gibt Leute die auf der Naziplattform noch private Dinge posten?

 

[SuperHeinz]

So ist das eben mit den Menschen: für sexualisierte Inhalte oder um diese Inhalte selbst zu erstellen, tun manche Leute alles und vergessen jede Moral. Besonders, wenn dieses anonym erfolgen kann.

Zudem braucht X mehr Reichweite und Freund Elon M. hat auch so seine amoralischen Momente. Besonders, wenn es um sein Geschäft geht, hält er Skrupel nur für hinderlich, also für überflüssig.

 

[crustenscharbap]

An sich könnte man meinen man misshandelt für solche Fotos keine echten Kinder. Aber ich fürchte dass damit Kinderpornos den ein oder anderen schmackhaft gemacht wird. Und dann manche übergreiflich zu echten Kindern werden. Wenn einestages das Internet damit voll ist, wird es normal. Das ist gefährlich!

 

[Gullveig]

Nun haben wir KI, und sie wird für so unnützes benutzt. Dabei würde es viel wichtigere Einsatzgebiete geben:

Neue Filme mit Bud Spencer und Terence Hill!

 

[CR4NK]

Seltsam. Ich hab auch viel mit Grok rumprobiert. Alten Fotos leben eingehaucht, aber auch irgendwelche Bilder und Szenen von Speisen generieren lassen, um zu sehen wie gut Grok ist.
Als Donuts und Wurst zusammen auf einem Bild liegen sollten, hat es eingegriffen und wurde aufgrund von Moderation abgebrochen.

 

[Kryo]

Klar, es ist irgendwie beliebt, bei jedem potenziellen Risiko gleich alles zu verbieten. So müssen die Leute gar nicht mehr selbst nachdenken oder Verantwortung übernehmen. Die KI – hier Grok – ist natürlich der Bösewicht, während der Mensch als Nutzer immer fein raus ist.

Wenn jemand erschossen wird, ist nicht der Schütze schuld, sondern eher der Hersteller der Pistole. Tolle Entwicklung, oder?

Eine große Debatte darüber würde hier definitiv zu weit führen. Trotzdem rege ich mal kurz an, zu überlegen, ob wir uns komplexe Themen nicht manchmal zu einfach machen, indem wir einfach alles verbieten.

Mit stark eingeschränkten Modellen wie ChatGPT zu arbeiten, kann ziemlich nervig sein: „Empfehle mir eine gute Vape“ – geht nicht. „Erstelle ein Bild von…“ – geht nicht. Fragen zu Dingen, die potenziell gefährlich oder sogar tödlich sein könnten – auch Fehlanzeige. Das fühlt sich schnell wie Bevormundung an und schränkt den echten Nutzen der KI ziemlich ein.

Ein bisschen mehr Balance zwischen Freiheit, persönlicher Verantwortung und Risiko würde uns allen wahrscheinlich guttun.

 

[boonstyle]

Ich weiß schon warum ich auf dem Laden schon vor Jahren meinen Account habe löschen lassen.

 

[KitKat::new()]

Jeder der das machen lässt, sollte überprüft werden. Alleine auf so einen Gedanken zu kommen ist einfach nur KRANK.

Von Pädophilie hast du schonmal gehört?

 

[Tech-Dino]

Langsam benötigen wir eine neue Version des Liedes:

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

und wer es bereits vergessen hat:
https://www.morgenpost.de/panorama/...-ki-mit-illegalen-pornos-trainiert-haben.html

 

[calluna]

@amorosa

Minderjährig ist nicht dasselbe wie Kind, wobei das je nach Land anders geregelt ist. In Deutschland ist eine Person zwischen 13 und 18 minderjährig, aber kein Kind.

In Deutschland gilt z.B. auch im Gegensatz zu den USA bei Personen ab 14 die sexuelle Selbstbestimmung.

Wie auch immer… es lohnt sich leider überhaupt nicht, sich hier groß aufzuregen - zumal es genug unregulierte Modelle im Internet gibt.

 

[BobHB]

Könnt sagen was ihr wollt, aber es wird noch schlimmer. Wir stehen erst am Anfang mit der KI.
Bald werden wir den Unterschied gar nicht mehr sehen.

 

[BrollyLSSJ]

Zeit seinen "Twitter" Account zu löschen!

Habe ich zum Glück vor 1 oder 2 Jahren (2024 oder 2023) gemacht. Habe da auch Facebook mit gelöscht und ein halbes Jahr später WhatsApp.

 

[BobHB]

Die sexualisierte Darstellung von Männern ist also kein Problem, oder wieso wird dies implizit im Artikel ausgeklammert?

Ich hoffe dass X hier eine dicke Anzeige wegen Erstellung und Verbreitung von Kiddie-Prn bekommt, einfach widerlich.

Da passiert nichts. Elon hat einfach zu viel Macht.

 

[Kadett_Pirx]

Ich bin täglich auf X und habe noch nichts davon gesehen. Ich glaube daher, hier wird erneut selektiv (bezogen auf X) aus einer Mücke ein Elefant gemacht.