News KI-Bildbearbeitung auf X: Grok erstellt sexualisierte Inhalte von Frauen und Minderjährigen

[Peter 23]

Wieder ein Beispiel, dass KI nicht nur Gutes generieren wird. Kann meiner Meinung nach weg. Die Technologie muss erstmal reifen, bevor es beim Endkunden ankommt. Die KI-Konzerne wollen zu viel zu schnell. Kosten und Schäden sind egal.

Genauso sehe ich es auch, weg damit. Die Welt wird immer unausstehlicher.

 

[Blutschlumpf]

Ich verstehe die Aufregung ehrlich gesagt nicht.
DIe KI generiert das was der Nutzer beauftragt.
Wenn jemand Fake-Photos in sozialen Netzen teilt, dann ist das nicht die Schuld eines Bildgenerators.

Wenn die Leute mit Photoshop selber Fake-Bilder erstellen würden, dan würde trotzdem kein Mensch auf die Idee kommen Photoshop verbieten zu wollen oder Adobe zu zwingen, dass die Software das verhindert.

 

[Jongleur666]

Nehmen wir jetzt auch Hilti in die Pflicht, weil ihr Werkzeug zum Bankraub in Gelsenkirchen beigetragen hat?
Oder Solingen, weil mit Messern Menschen abgestochen werden?

Nein, weil in deinem vollkommen absurden Vergleich jedem Kind absolut klar ist, dass es weder für Solingen noch für Hilti irgendeine Möglichkeit besteht, sowas zu verhindern.
Vollkommen anders als bei KI Software.

 

[Alex8]

Ich denke das man AI nur dann kontrollieren kann, wenn Nutzer sich im Netz mit einer ihnen zugeteilten ID einloggen müssen und diese dann quasi hinter jedem erstellten Beitrag, Bild etc. als Identifikation steht.

Bei einem strafrechtlich relevanten Tatbestand, kann man dann anhand der ID den Urheber und alle die an der Verbreitung mitgewirkt haben, durch Gerichtsbeschluss ausfindig machen.

So bleibt die Freiheit und Kreativität erhalten, wer aber gegen das Recht verstößt, wird am Ende gefunden werden.

In meinem Fall sind die von mir angeforderten Bilder von Landschaften nicht wirklich realistisch gewesen, egal welche AI ich nutze. Das Beste was mal herauskam war ein Rabenvogel, leider hatte der nur ein Bein... So zum Spass habe ich auch mal nen Promi eingegeben, da kam dann ne Anime Figure heraus, die aber doch Ähnlichkeit hatte, aber niemals als "real" durchgegangen wäre.

Folglich überrascht es mich schon, was Menschen da teilweise rausholen können, wenn es um "Echtheit" geht. Heute sah ich z.B. ein Video wo Maduro als DJ fungiert, wie man auf so etwas kommt, keine Ahnung aber es war doch irgendwie unterhaltsam und wirkte fast real.

 

[Turrican101]

Wieder ein Beispiel, dass KI nicht nur Gutes generieren wird. Kann meiner Meinung nach weg.

Nach der Logik hätte es das Internet, Computer und Strom auch nie geben dürfen. Damit kann man schließlich nicht nur gute Dinge machen, kann also weg.

 

[The-Heinz]

Ist das unbewusste Unfähigkeit oder bewusst ideologisch politisches Framing:

Grok erstellt das was der Nutzer aufträgt. Die Überschrift wäre also: Nutzer missbrauchen Grok für das Erstellen sexualisierter Inhalte von Frauen und Minderjährigen

Und dann wundert man sich wieso das Vertrauen in die Qualität und Seriosität von Journalismus schwindet.

Nonsense. Wenn ich zulasse, dass mein Produkt Kinder Pornographie zumindest im Ansatz zulässt, bin ich in erster Linie das Problem. Aber es ist ja Musk, dein Messias, richtig?

 

[longusnickus]

So etwas sollte nur für private Zwecke genutzt werden, und Verbreitung geahndet werden (geht ja eh schon, über "das Recht am eigenen Bild"), dass würde das Problem wohl schon entscheidend verkleinern.

es gibt aber auch genug frauen (und auch männer wie Ricky Berwick und musk selber) auf twitter, die das von sich selbst machen

such mal nach "grok put me in a bikini"
die menschen wollen es selbst so. warum sollte man es ihnen verbieten

ich verstehe auch die kritik nicht. was haben denn die menschen gedacht wofür KI genutzt wird?
natürlich für schmudelzeug. das war schon immer so.
dieses lied ist auch schon 20 jahre alt oder so

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

damals dachten die menschen auch: oh dieses internet wird für wissensvermittlung genutzt und die menschheit viel schlauer machen.... tja, was ist daraus geworden?

 

[megaapfel]

Was Leute Privat damit machen, kann mir egal sein.

Nehmen wir an, jemand macht mit Bilddaten einer anderen Person ein privates Foto oder Video und dieses wird nicht veröffentlicht.
Wird dadurch jemand geschädigt?
Ich denke nicht.
Es ist ja nichts davon echt, außer vielleicht das Gesicht.
Nichts davon hat stattgefunden und das ist jedem klar.

Es bleibt aber nicht privat. Ich denke wir können alle davon ausgehen, dass die erstellten Bilder erstens für weitere Trainings der zukünftigen Modelle verwendet werden, möglicherweise auch verkauft werden und drittens werden viele Bilder auch mit anderen geteilt. Mögliche Strafen wegen Datenschutzverstößen werden Musk dabei egal sein.

Es ist ein großer Unterschied, ob jemand aufwendig manuell, mehrere Stunden lang ein manipuliertes Video erstellt oder ob ein Satz in Grok und 1 Minute Zeit ein kompromittierendes Deepfake erstellt.

 

[megaapfel]

Ich bin täglich auf X und habe noch nichts davon gesehen. Ich glaube daher, hier wird erneut selektiv (bezogen auf X) aus einer Mücke ein Elefant gemacht.

Es wird gar nicht genug darüber geredet. Das ist ein massives Problem und nur weil du nichts davon sehen willst, heißt das nicht, dass es nicht existiert.

 

[megaapfel]

Die KI selber wird wohl kaum von allein sowas erstellen. Diese ist nur ein Werkzeug für die Person vor dem Rechner. Das zeigt aber auch wie verloren die Menscheit an sich ist. Entweder sowas oder Gewalt.

Ach so. Und es töten auch nie Waffen Menschen, sondern immer nur Menschen, deswegen bringt ein Waffenverbot nichts? Sehr realitätsfern.

 

[Kryo]

@Booth Ein Verkehrsschild gibt mir Regeln vor – letztlich sitze ich jedoch selbst am Steuer und entscheide eigenverantwortlich, ob ich beim Überholen mal fünf Sekunden schneller bin als vorgeschrieben. Genau so möchte ich auch selbst bestimmen, ob ich vape oder nicht, ohne dass eine KI mir mit moralinsaurer Belehrung den Mund verbietet und einfach keine Auskunft gibt, weil sie das für „schädlich“ hält.

Nennen es, wie du willst – ich nenne es schlicht Bevormundung. Und Bevormundung hat mit fairen Regeln herzlich wenig zu tun.

 

[MountWalker]

Wenn jeder per AI virtuelle Körper an reelle Gesichter für Bewegtbilder heranbasteln kann, kann das auch den positiven Effekt haben, dass endlich eine Mehrheit der Gesellschaft aufhört, Deepfakes für bare Münze zu nehmen. Wir lernen dann, auch mit Gesichtern von echten Personen sind das keine Abbildungen von Wirklichkeit sondern fiktive Gemälde. Das ist vielleicht eine gute Sache, wenn man an die notwendige Medienkompetenz in Bezug auf politisch erstellte DeepFakes denkt. Ein DeepFake-Porno von mir, erstellt aus einer Verarbeitung von unsexuellen Urlaubsphotos und nicht-mich-beinhaltenden Pornomassen, wäre eben keine persönliche Pornoaufnahme von mir und die Leute, die sowas erstellen, sind sich dessen dann auch bewusst, wenn sie ein Video sehen, in dem sich Trump und Selenski einen Zungenkuss geben oä. Das Thema "Videobeweis" ist vorbei. Jetzt geht es nur noch darum, dass die Masse der Bevölkerung das auch versteht.

 

[Bright0001]

Huch - da scheints den Michel bös aus dem Dornröschenschlaf gerissen zu haben. Dass es seit Ewigkeiten fotorealistische Fakes von so ziemlich allem und jedem (mit Bekanntheit) im Internet gibt, scheint ja ne richtige Neuigkeit zu sein. Ich schätze weil halt im Neuland.

Da dürfte folgendes ebenfalls für Entsetzen sorgen: Das geht auch lokal auf Consumer-Hardware, mit guten bis sehr guten Ergebnissen. Dauert ungefähr nen Nachmittag zum Aufsetzen, und braucht keine einzige Zeile Code.

Zeit seinen "Twitter" Account zu löschen!

Die Löschung ins Forum zu twittern ist das Substitut?

Wenn jemand Bilmaterial von jemand anderem mißbraucht, gibt es Mittel sich zu wehren.

Der eigentlich relevanteste Satz. Wenn das eigene Bildnis missbräuchlich verwendet wird, dann hat man auch jetzt schon rechtliche Handhabe. Wenn man eine öffentliche Person ist, bei der andere Gesetze greifen, dann muss das Zeug genauso behandelt werden, wie ein "normaler" Deepfake halt auch.

Und dass Leute Karikaturen und/oder pornografisches Material von einem erstellen, sobald man Promi wird, ist nun wahrlich kein Geheimnis.

Es geht nicht darum "zu verbieten" sondern darum zu REGULIEREN. Menschen brauchen Regeln.

Kinder brauchen Regeln. Ich brauche eher die Freiheit selbstbestimmt handeln und entscheiden zu können.

So zerstören IT Systeme nach und nach unsere Gesellschaften und Du bist eines der vielen Beispiele, wie gut das klappt.

Über Regularien baut man sich Stück für Stück einen Zensur- und Überwachungsstaat, und Du bist eines der vielen Beispiele, wie gut das klappt.

Selbst mit jetzigen Regeln hat der Satz "du bist so ein Pimmel" gereicht, dass die Polizei in voller Ausrüstung und mit ganzer Mannschaft eine Familienwohnung gestürmt hat - aber hey, klar, wir brauchen noch ein paar Regeln mehr, ganz offensichtlich.

 

[Zhenwu]

Nein, weil in deinem vollkommen absurden Vergleich jedem Kind absolut klar ist, dass es weder für Solingen noch für Hilti irgendeine Möglichkeit besteht, sowas zu verhindern.
Vollkommen anders als bei KI Software.

Ach so. Wieso gibt es dann keine Beschränkung für Adobe?
Immerhin ist da sowas seit Jahrzehnten möglich.

Nonsense. Wenn ich zulasse, dass mein Produkt Kinder Pornographie zumindest im Ansatz zulässt, bin ich in erster Linie das Problem. Aber es ist ja Musk, dein Messias, richtig?

Auch hier, wieso werden der Chef von Adobe oder Affinity nicht angeprangert?
Immerhin ist das mit den Produkten genauso möglich.

Missbrauch eines Werkzeugs hat immer was mit Menschen zu tun.
Wieso wurde, da nicht in der Vergangenheit berichtet, ging ja bereits ohne KI.

 

[Meta.Morph]

Es ist doch so: Im Internet werden ständig Dinge gepostet, die im Zweifel ohnehin rechtlich fragwürdig sind. Das Urlaubsbild vom Strand oder aus dem Restaurant – hat man dafür wirklich die Einverständniserklärung eines jeden Beteiligten? Selbst wenn man Bilder der eigenen Kinder veröffentlicht (auf Facebook oder Instagram): Inwieweit können Kinder das überhaupt entscheiden, und warum sollten Eltern diese Entscheidung stellvertretend treffen dürfen? Wir reden hier nicht mehr von Fotos für das private Familienalbum oder den gemütlichen Diaabend. Das hier ist die Öffentlichkeit!

Aber wenn man das weiterdenkt: Sollte man Kinderdarsteller in Filmen und Serien nicht noch einmal ganz anders bewerten? Man könnte Vor- und Nachteile gegeneinander abwägen. Vielleicht wird das in der Filmbranche bereits gemacht – hoffentlich gewissenhaft. Aber was ist mit dem großen Rest? Was ist, wenn Eltern ihr Kind für ein YouTube-Video vor die Kamera zerren?

Theoretisch werden wir durch das Recht vor der missbräuchlichen Verwendung des eigenen Bildes geschützt. Aber man muss erst einmal von einem Verstoß erfahren und dann selbst aktiv werden. Zu diesem Zeitpunkt ist der Schaden meist längst angerichtet.

Meiner Meinung nach sollte es grundsätzlich verboten werden, Bilder hochzuladen, auf denen andere Menschen zu sehen sind.

Mit zwei Ausnahmen:

• Man darf natürlich sein eigenes Bild verwenden. Hierbei muss man jedoch beweisen können, dass man die gezeigte Person auch tatsächlich ist. Das Argument der Anonymität gilt an dieser Stelle nicht – wer ein Bild von sich hochlädt, tritt damit ohnehin aktiv in die Öffentlichkeit.
• Professioneller Journalismus darf so weiterarbeiten wie bisher. Allerdings fordere ich, dass alle Kanäle ab einer gewissen Reichweite ebenfalls in die Kategorie „Journalismus“ fallen. Das bedeutet: dieselben Rechte, aber eben auch dieselben Pflichten und dieselbe Haftung.

Meiner Meinung nach kann man nur so Deepfakes und die missbräuchliche Verwendung von Bildern verhindern.

 

[smuper]

@Kryo

Frag mal eine KI deiner Wahl warum deine Argumentation gelinde gesagt "einfach" ist.

Bin aber bei dir, wir können ja einfach eine Klarnamenpflicht bei KI-Diensten einführen und jeden falschen Prompt wie bei den anderen "Regeln" in der freien Welt pro Fehlleistung mit entsprechenden Konsequenzen verknüpfen.

 

[ThreepQuest64]

Schon vor langer Zeit meinen Account dort gelöscht.

Ich halte Social Media (allein der Begriff ist schon völlig irreführned) für einen großen Fehler. Auf der Plus-Seite steht viel zu wenig, um all den Mist, den es ermöglicht, verbreitet und reproduziert zu billigen.

 

[braindamage10k]

Schwieriges und komplexes Thema.

Auf der einen Seite kann man natürlich völlig zurecht die Erstellung solcher Inhalte kritisieren und verurteilen.

Auf der anderen Seite verschwinden solche Neigungen nicht weil es keine Inhalte gibt. Und dann stellt sich die Frage ob AI generierte Inhalte echten Inhalten vorzuziehen sind.

 

[Ripcord]

Ach so. Und es töten auch nie Waffen Menschen, sondern immer nur Menschen, deswegen bringt ein Waffenverbot nichts? Sehr realitätsfern.

Realitätsfern ist allein dein absurder Vergleich zwischen KI und Waffen.

 

[Matthias B. V.]

Nonsense. Wenn ich zulasse, dass mein Produkt Kinder Pornographie zumindest im Ansatz zulässt, bin ich in erster Linie das Problem. Aber es ist ja Musk, dein Messias, richtig?

Hab ich nicht gesagt aber ja das werden sie tun oder haben es schon.

Aber scheinbar ist er für viele hier einfach generell der Teufel.

Musst man wohl mit zwei Maßen?