News Erotik-Funktion bei ChatGPT: OpenAI verschiebt Er­wachsenen-Modus erneut

mischaef

Kassettenkind
Teammitglied
Registriert
Aug. 2012
Beiträge
7.265
Vor rund einem halben Jahr hatte OpenAI-CEO Sam Altman erste Pläne für einen ChatGPT-Modus speziell für erwachsene Nutzer öffentlich gemacht, der auch eine Erotik-Funktion beinhalten soll. Weit vorangekommen ist das Projekt seitdem allerdings nicht – jetzt wurde es erneut verschoben.

Zur News: Erotik-Funktion bei ChatGPT: OpenAI verschiebt Er­wachsenen-Modus erneut
 
  • Gefällt mir
Reaktionen: knoxxi
OpenAI muss sich halt um andere scharfe Rohre gerade kümmern, da ist es verständlich
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Maggolos, qappVI, Rockstar85 und 6 andere
Wenn das Kinderporografie und physische sexuelle Gewalt verhindert oder massiv mindert wäre das doch was positives, gibts dazu Studien. Das dadurch echte Gewalt verhindert wurde?
Wenn ja wäre das ja mal was postivies, wers benötigt. Vergewaltiger sind ja krank, weil da irgendwas neurologisch nicht mehr richtig funktioniert. Liebe Grüße.
 
  • Gefällt mir
Reaktionen: the_IT_Guy
Tut es nicht. Ki wird für sowas doch schon massenhaft missbrauch, wenn nicht sogar zu allererst verwendet um derartigen Content zu generieren.
Ich denke eher das wird Menschen mit so etwas viel einfacher in kontakt bringen und irgendwann reicht digitaler Content diesen Menschen dann nicht mehr.
Ich glaube zumindest nicht das es etwas verhindert, eher wahrscheinlicher macht.
 
  • Gefällt mir
Reaktionen: eMiu und Dat IT Nerd
Cabranium schrieb:
Ich denke eher das wird Menschen mit so etwas viel einfacher in kontakt bringen und irgendwann reicht digitaler Content diesen Menschen dann nicht mehr.
Ja stimmt, genauso wie bei den Killerspielen. Seit die Jugendlichen ihre Ballerlust in CS 1.6 ausleben, können wir uns hier in Deutschland vor Amokläufen kaum mehr retten. /s

On topic: Ich denke die Leute sind nach dem "Grok entkleidet Teenager bei X"-Skandal gerade recht sensibilisiert. Ich glaube deshalb nicht, dass OpenAI so blöd ist, genau diese Art von Minderjährigen-Content auch offiziell zuzulassen.

Wegen Schadenersatz-Forderungen werden sie ggf. auch Generierung von (nicht explizit zustimmenden) Prominenten vermeiden wollen. Ob das wirklich zuverlässig gelingen kann, steht aber in den Sternen. (Mit genug Versuchen reicht es vermutlich, eine ausreichend präzise Textbeschreibung zu verwenden, um eine bestimmte Person halbwegs erkennbar zu reproduzieren).
 
  • Gefällt mir
Reaktionen: qappVI, Beitrag, LukS und eine weitere Person
Ich bin mir auch garnicht so sicher ob da viel Geld zu holen wäre.
Ja die Pornoindustrie ist groß und Onlyfans macht auch immer wieder Mal Schlagzeilen was da für Geld umgesetzt wird.
Aber, genau das ist der Punkt, man müsste mit denen konkurrieren und mit den ganzen frei erhältlichem Zeug auf zig Webseiten. Dann den ganzen Werbefinanzierten KI (Porno) Bildgeneratoren / Videogeneratoren.
Und man würde seinen Ruf weiter "beschmutzen", der ja durch die Department of War Deals schon einen Knacks bekommen hat.
 
wagga schrieb:
Wenn das Kinderporografie und physische sexuelle Gewalt verhindert oder massiv mindert wäre das doch was positives, gibts dazu Studien. Das dadurch echte Gewalt verhindert wurde?
Wenn ja wäre das ja mal was postivies, wers benötigt. Vergewaltiger sind ja krank, weil da irgendwas neurologisch nicht mehr richtig funktioniert. Liebe Grüße.
Das ist ein schwieriges Thema. Grundsätzlich denke ich, dass eine Legalisierung von KI-Bildern unter Umständen die Polizei entlasten und den Druck, Täter zu werden, verringern kann.
 
  • Gefällt mir
Reaktionen: the_IT_Guy
Dem orangenen Mann an der Macht der das eher prüde und wertegehobene Amerika der 70/80er wieder etablieren will wird das nicht gefallen. :smokin:

Evtl ist das auch der Grund für die Verschiebung ...
 
  • Gefällt mir
Reaktionen: FX9590
@wagga
Das sehe ich gänzlich anders. Man muss nicht alles normalisieren und zugänglich machen. Irgendwo muss man Grenzen ziehen und das ist eine davon.
 
  • Gefällt mir
Reaktionen: madmax2010
Scheint so, als ob Webdevelopment vorerst prio vor Weebevelopment hat.
 
  • Gefällt mir
Reaktionen: RedSlusher, Alphanerd und Garmor
Ihr sollt alle aufhören zu goonen.
 
  • Gefällt mir
Reaktionen: RedSlusher, Lan_Party94 und madmax2010
Thorakon schrieb:
Ja stimmt, genauso wie bei den Killerspielen. Seit die Jugendlichen ihre Ballerlust in CS 1.6 ausleben, können wir uns hier in Deutschland vor Amokläufen kaum mehr retten. /s

Der vergleich ist ehrlich gesagt unter der Gürtellinie. Ein Spiel mit nicht realistischer Grafik ist immer noch eine andere Basis, als KI genierte Kindernacktbilder in einer Qualität die dem realismus entspricht. Das eine wird von 99.999% klar als Spiel betrachtet und auch so gelebt. 00.001% fallen da vielleicht aus dem raster, aber bei denen ist es jedes mal das selbe Mobbing die in eine Selbstmordsituation mit Rache bedürfnis an der Geselschaft oder einzelnen endet. Jede diese Taten wäre verhinderbar gewessen, wäre die Geselschaft nicht mit den Menschen so umgegangen wie sie es taten.

Aber 100% der Menschen die sich auf Kindern (Frauen wie auch Männer) einen Orgasmus herbei führen, leben dass ganz real und triggern damit einer tieferen Biologischen und Genetischen Ebene. Und das da kucken irgendwann nicht mehr reicht liegt im Prinzip der Natur und im dran sich vermehren zu wollen.

Ich würde durchaus sagen, dass dies zwei völlig unterschiedliche Basen sind.


the_IT_Guy schrieb:
Ich bin mir auch garnicht so sicher ob da viel Geld zu holen wäre.
Ja die Pornoindustrie ist groß und Onlyfans macht auch immer wieder Mal Schlagzeilen was da für Geld umgesetzt wird.
Aber, genau das ist der Punkt, man müsste mit denen konkurrieren und mit den ganzen frei erhältlichem Zeug auf zig Webseiten. Dann den ganzen Werbefinanzierten KI (Porno) Bildgeneratoren / Videogeneratoren.
Und man würde seinen Ruf weiter "beschmutzen", der ja durch die Department of War Deals schon einen Knacks bekommen hat.

Viel Geld, den auch da kannst du Werbung einblenden, musst es mit keinen darstellern teilen und kannst quasi jede person ungestraft als vorlage verwenden. Weil das zu vergolgen unheimlich schwer ist. Vor allem wenn die leute in ländern sitzen wo es keinen interessiert oder du uninterssierte Regierungen für dieses thema hast.
 
  • Gefällt mir
Reaktionen: eMiu, LBB und locke87
"potentielle Probleme" bei Erotik-Inhalten. Wer hätte das gedacht.
 
Das ist auch eines der wenigen Dinge, wo ich LLMs als nützlich einstufen würde, erotische Fanfiction schreiben. "Halluzinieren" ist da auch etwas positives. Aber wozu zahlen, Deepseek macht das ganz gut, für umsonst.
 
Cabranium schrieb:
Tut es nicht. Ki wird für sowas doch schon massenhaft missbrauch, wenn nicht sogar zu allererst verwendet um derartigen Content zu generieren.
Ich denke eher das wird Menschen mit so etwas viel einfacher in kontakt bringen und irgendwann reicht digitaler Content diesen Menschen dann nicht mehr.
Ich glaube zumindest nicht das es etwas verhindert, eher wahrscheinlicher macht.
Die Existenz von solchen Videos wird es nicht verhindern.
Aber bei der Produktion würden keine echten Kinder mehr zum Einsatz kommen. Naja Theoretisch.
Denn das traurige an der Sache ist, so wie solche "KIs" lernen braucht es dafür ja eben Lernmaterial...

Aber allein die Vorstellung und die Idee um Kinderpornografie macht mir den Magen übel.

Was es sicher ersetzen kann ist die Nachfrage nach legalen weiblichen erwachsenen Darstellerinnen. Da ist genug "Lernmaterial" vorhanden.
 
@Benj naja es gibt bereits genug KI Dinger in der Pornografie. Das ist alles erst am Anfang.
Dann gibts genug "KI Freundinnen" (Chatbots), aber auch hier der Anfang.
Vielleicht gibts in absehbarer Zeit auch voll funktionsfähige Haushaltsroboter die dann alles obige auch können...
 
BAR86 schrieb:
Dann gibts genug "KI Freundinnen" (Chatbots), aber auch hier der Anfang.
https://www.reddit.com/r/ChatGPT/comments/1r1h0yc/save_4o/
https://www.techradar.com/ai-platfo...s-are-backing-a-keep4o-campaign-to-restore-it
....

es ist faszinierend. die Keep4o Bewegung ist einfach voller leute, die sich in ihre 4o basierten PartnerInnen verliebt haben und monatekang das Internet mit Verlustangst geflutet haben.
AI Psychosen werden in den nächsten Jahren zu einem echten problem.

Eltern freuen sich schon drauf..
 
  • Gefällt mir
Reaktionen: BAR86
Cabranium schrieb:
Der vergleich ist ehrlich gesagt unter der Gürtellinie. Ein Spiel mit nicht realistischer Grafik ist immer noch eine andere Basis, als KI genierte Kindernacktbilder in einer Qualität die dem realismus entspricht. Das eine wird von 99.999% klar als Spiel betrachtet und auch so gelebt. 00.001% fallen da vielleicht aus dem raster, aber bei denen ist es jedes mal das selbe Mobbing die in eine Selbstmordsituation mit Rache bedürfnis an der Geselschaft oder einzelnen endet. Jede diese Taten wäre verhinderbar gewessen, wäre die Geselschaft nicht mit den Menschen so umgegangen wie sie es taten.

Aber 100% der Menschen die sich auf Kindern (Frauen wie auch Männer) einen Orgasmus herbei führen, leben dass ganz real und triggern damit einer tieferen Biologischen und Genetischen Ebene. Und das da kucken irgendwann nicht mehr reicht liegt im Prinzip der Natur und im dran sich vermehren zu wollen.

Ich würde durchaus sagen, dass dies zwei völlig unterschiedliche Basen sind.
Sorry, aber ich glaube nicht dass du die psychologische und kriminologische Vorbildung hast um das zu beurteilen.
Realistische Grafik ist kein wesentlicher Faktor. Das menschliche Gehirn ergänzt im Zweifel den Realismus von selbst oder hat sogar Fantasien, die über das realistische hinausgehen. Wenn das ein Faktor wäre, dann müsste man deiner Meinung nach sexualisierte Abbildungen im Anime-Stil nicht verbieten, weil das wäre ja nicht realistisch?
Abgesehen davon, dass die Grafik von bestimmten Shootern ebenfalls viel realistischer geworden ist in der Zwischenzeit, ohne dass wir einen großen Effekt auf Amokläufe sehen, wurden schon immer Simulationen in der Militärausbildung genutzt, weil es eben reicht um dem Gehirn das nötige Verhalten anzutrainieren.
Deine Täter-Opfer-Umkehr mit dem Mobbing geht zu weit. Natürlich ist Mobbing scheiße und kann bleibende Schäden hinterlassen, dennoch führt es nie zwangsläufig zum Amoklauf (mit meist unbeteiligten Opfern, sonst ist es ja ein gezielter Mord/Totschlag).
Sicher war das soziale Umfeld mehr ein Faktor als die Existenz des "Killerspiels" aber deine Argumentationslogik zum Triggern von Gewalt ist dieselbe, an die damals alle besorgten Boomer geglaubt haben.

Das 100% Ausleben ist nicht zutreffend (https://www.uniklinikum-leipzig.de/einrichtungen/dunkelfeld/hintergrund sonst wären deutlich über 3-9% der Männer aktive Sexualstraftäter, außerdem sind umgekehrt viele Sexualstraftäter bei Kindern nichtmal pädophil: https://www.weisses-kreuz.de/themenuebersicht/sexualisierte-gewalt/ueber-die-taeter/ Abschnitt "Welche Ursachen bzw. Motive stehen hinter solchen Taten?").
Eine Vermehrung mit Kindern ist nicht möglich, eine Triebkontrolle ist dagegen dem Menschen prinzipiell möglich (natürlich mit den bekannten Ausnahmen, aber selbst die die auffällig werden waren ja meist lange Zeit unauffällig).
Die "Genetik" hängt übrigens von deinen Vorfahren ab, viel Spaß dabei, die zu beeinflussen.
Ich denke es wird Fälle geben, wo die von dir geschilderte Steigerung von KI zu (problematischem) Ausleben stattfindet, gleichzeitig könnte es aber auch Fälle geben, wo die KI dem Pädophilen ausreicht bzw. dem realen Verhalten vorgezogen wird (welches ja viel stärker strafbewehrt ist, und mehr Gewissenbisse verursacht). Ähnlich wie bei den bekannten Fällen, wo sich Menschen zu einem immer verfügbaren und genau den Wünschen entsprechenden KI-Chatbot plötzlich mehr hingezogen fühlen als zum menschlichen Partner.

Um mehr auf das Thema zurückzukommen: ich glaube, wer sich entsprechende Bilder ansehen will, wird das immer können. Das Netz/Darknet ist jetzt schon voll davon, teils lassen Polizeibehörden selbst entsprechende Server und Aufnahmen online um die Täter und Konsumenten zu erwischen und haben dabei um Zugang zur Szene zu bekommen vereinzelt sogar selbst Material geliefert (neuerdings oft KI-generiert, um der rechtlichen Grauzone zu entkommen).
Es sollte alles getan werden, den Zugang einzuschränken, und ich denke eben auch eine in den USA ansässige Firma mit Lust auf Regierungsaufträge wird da formal tun was möglich ist. Aber gleichzeitig wird es auch immer jemand geben, der in alle Richtungen unzensierte KI bereitstellt (die Limitierungen muss man ja erstmal nachträglich einbauen).

@wagga Vermutlich wird es schwer sein dazu öffentlich Studien durchzuführen. Stell dir vor, du machst als Wissenschaftler so eine Studie, lädst dafür Pädophile ein, beobachtest über einen langen Zeitraum und am Ende kommt raus, es hat doch nichts geholfen, x% haben währenddessen Straftaten begangen? Viel Spaß den Shitstorm zu überleben. (Wenn du sagst sie werden überwacht, wird das das Ergebnis wieder verfälschen.) Bei der Uni Leipzig die ich oben zitiere gibt es ein Therapieprogramm, aber das scheinen eher die üblichen Gruppensitzungen zu sein wie bei Substanzabhängigen, klingt nicht so als ob da so ein Ansatz probiert wird.
 
Zurück
Oben