News AI-Fake-Porn von Taylor Swift: US-Administration will verschärfte Regeln gegen Deepfakes

[iWrite]

Allerliebst, dass das Thema erst wichtig wird, wenn es einen "besseren" Menschen trifft.
Eigentlich ist das Thema uralt, aber wenn es eine Taylor Swift trifft,
dann muss man handeln. Wir leben in seltsamen Zeiten.

Hoffe dass ich echte künstliche Intelligenzen nicht mehr erlebe, dann wird es nämlich so richtig knallen.

 

[snaapsnaap]

Warum hat es jetzt einen Vorfall mit Promis gebraucht, damit die US-Politik auf Bundesebene sieben (!) Jahre später mal endlich aktiv werden mag?

Weil sich Politiker nicht für das Schicksal völlig unbekannter Menschen interessieren, solange es sie nicht selber betrifft bzw betreffen kann.

Kann man doch sehr gut anhand der aktuellen Konflikte sehen, da werden Menschen auch in den Tod geschickt, passiert ja nicht bei ihnen, was juckt da einen die Moral, solange man dran (mit)verdienen kann...

Waffenstillstand oder Frieden, passt nicht ins Weltbild.

Und wie viel besser kann man so etwas einem Alteingesessenen besser veranschaulichen was so ein bisschen KI anstellen kann, anhand einer der bekanntesten Promis auf der Welt.

Es gab natürlich schon lange vorher solche Filmchen und Bilder, oder eben Fakes, gerade von Prominenten, aber dies war mit viel Arbeit in Photoshop etc verbunden und entsprechend langwierig, zudem auch meist gut als solches zu entlarven, weil Proportionen, Hautton oder sonstiges nicht passte.

Muss ja nicht mal 18+ Content sein, selbst das Gesicht auf eine andere Person zu setzen bedarf ja schon viel Talent um es entsprechend glaubwürdig aussehen zu lassen.

Bei KI Bildern wird aber alles innerhalb von Sekunden erzeugt, ohne eine Basis als solche in Form eines jpgs die man irgendwo abgleichen könnte, und wenn ein Bild nicht gut ist, macht man eben 1000 weitere und sucht die Besten raus.

Die Arbeit besteht dann nur noch in der Selektion.

An sich geht es dabei ja nicht mal um den reinen Porno Aspekt, sondern die möglichen Konsequenzen, welche andere Leute fordern, zB das jemand seine Position aufgibt weil diese angeblich mit jemandem oder etwas dargestellt wird, ein Gerichtsprozess um das Sorgerecht, oder als Beweise in Strafprozessen.

Theoretisch treibt man das ganze einfach immer weiter, demnächst noch im Bereich Musik oder Film, die KI muss nur gefüttert werden und davon gibt's praktisch unendlich Material, da sich Leute Tag für Tag auf Social Media darstellen.

Vllt werden wir uns als Menschheit auch gar nicht auslöschen, sondern einfach aussterben, sobald die KI gut genug sein wird, um uns echte Gefühle vorzugspielen, zumindest wenn dann auch ein entsprechende Abbildung das ganze untermalt, sei es als Hologramm oder doch eine Art von Roboter, reine Chatbots sind dazu ja bereits in der Lage.

 

[homer0815]

Sehe ich genau so.
VHS vs Video2000 vs Betamax - wer war das Zünglein an der Waage? Die Pornoindustrie.

HD-DVD vs BluRay - Pornos kam am auf BD raus und haben den Markt geklärt.

Es war doch klar dass das mit KI genau dafür am Ende (auch) benutzt wird.

Für die betroffenen sicherlich unschön, aber das wird man nicht mehr aufhalten können. Jeder kann mit den richtigen Tools eigene Bilder und Videos erstellen und wenn die einmal im Umlauf sind, bekommt man die auch nicht wieder "eingefangen".

Als nächstes fällt denen ein, das man auch mit AI Spam generieren kann. Dann wird der Aufschrei auch noch kommen, hätte ja keiner ahnen können ...

Lustig wird das auch noch bei Urberhechtsfragen in Zukunft. Wir haben aus Spaß von Copilot mal ein Logo entwerfen lassen. Wer ist jetzt Urheber? Microsoft? ChatGPT? Wir, die den prompt eingeben haben? Künstler deren Bilder als Grundlage dafür gedient haben, das GPT überhaupt das Modell trainieren konnte?

Die ganze AI Bubble ist erst noch am entstehen, da kommt noch einiges auf uns zu.

 

[Boimler]

Ich sehe da jetzt nicht so wirklich die Weltuntergangsszenarien. KI zerstört einfach nur weiter die Glaubwürdigkeit digitaler Quellen. Außer dem langsamen Sterben sozialer Medien und Infokanälen jeglicher Art ist mittelfristig nicht viel abzusehen. Auch dagegen wird es eine Bewegung und Regulierung geben.

 

[DriveByFM]

Ist doch eh schon viel zu spät. Man hätte viel früher reagieren müssen. Nun ist alles im Gange und Regelungen werden kaum was ändern, das einzige was hilft wären Verbote, aber das will ja niemand.

Denn der KI Hype ist real, egal in welchen Bereichen.

 

[Eisenoxid]

Wenn etwas auf lange Sicht gut funktionieren soll, braucht es immer Regeln und Gesetze. Gilt für alle Bereiche.
Es wird schwierig jetzt noch was dagegen zu unternehmen.

 

[Stahlseele]

Hatte nicht einer von Musks Anwälten schon vor Monaten gesagt, dass man aufgrund von AI Deepfakes alles was "angeblich" von Musk gesagt oder geschrieben worden sein soll nicht mehr als Beweismittel ansehen könnte?

 

[Neodar]

Hm...
Warum sollte ich mir irgendwelche Fake Taylor Swift Bildchen/Videos reinziehen, wenn mir eine KI doch theoretisch genau die absolute Frau meiner Träume kreieren kann?

Das Ziel sollte doch eigentlich sein, jeden Kunden 100% individuell zu erreichen, oder?

 

[CPUinside]

was ist taylor swift?

dass die ki-büchse in allen richtungen nebenwirkungen hat war ja klar. den deckel kriegt man nicht mehr drauf.

 

[KlaasKersting]

Warum hat es jetzt einen Vorfall mit Promis gebraucht, damit die US-Politik auf Bundesebene sieben (!) Jahre später mal endlich aktiv werden mag?

Weil im November Wahlen sind und Taylor Swift bei Millennials, insbesondere Frauen, extrem beliebt ist und es in dieser Altersgruppe eine hohe Nichtwählerquote gibt.

Gerade Frauen tendieren statistisch generell eher dazu, die Demokraten zu wählen und wenn man über eine solche Ikone dann ein paar Stimmen abgreifen kann, nimmt man das gerne mit.

Passieren wird gesetzlich sowieso nichts mehr vor der Wahl, das ist reine Show.

 

[xxlhellknight]

Können YouTube und co nicht einfach ne ki über die hochgeladen Videos laufen lassen, die nackt Bilder und Videos erkennt. Ist ja im Grunde egal ob deepfake oder echtes sextape, verstößt doch eh gegen deren ihrer AGBs. Wäre doch das einfachste und am wenigsten invasivste.

 

[Beitrag]

Tja, schöne neue Welt und das ist erst der Anfang. Erst hypen und nachher merken, was wirklich Sache ist.

Man hätte bei den neuen Techniken rund um AI direkt mehr und schmerzhafter auf die Finger hauen sollen. AI-Forscher/Entwickler erinnern mich zur Zeit an die Anfänge der Genmanipulation. Einfach machen, was irgendwie möglich ist. An Auswirkungen ggf. auf die gesamte Menschheit denken? Fehlanzeige ...

Man kann technischen Fortschritt nicht einfach so aufhalten. Es werden nicht alle Menschen und Firmen auf der Welt, die sich damit beschäftigen, brav warten, bis irgendwelche fachfremden Regierungen von zig Ländern Wind von der Sache bekommen haben, sich halbwegs ins Thema eingearbeitet und demokratische Entscheidungen getroffen haben.
Und sobald der Hype erstmal losgetreten ist, will sowieso alles und jeder der erste sein. Veröffentlichst du etwas nicht, tut es 'nen Monat später jemand nach dir. Patentierst du etwas nicht, tut es 'nen Monat später 'ne andere Firma. Stattest du deine Geheimdienste und Militärtechnik nicht damit aus, tut es dieses andere Land, das du auf dem Kieker hast, vor dir.

Ich stimme dir zu, dass da ein ziemlich großes Problem auf uns zurollt, aber ich denke nicht, dass die Forscher oder unsere Regierungen hier die Buhmänner sind. Man kann nun mal nahezu alles im Guten wie im Bösen verwenden und Regierungen können nicht alles kontrollieren und regulieren.

 

[catch 22]

Warum das jetzt das Fass zum überlaufen bringt, kann ich nicht ganz nachvollziehen.

vermutlich auch, weil Wahljahr ist, und angenommen werden darf, "dass diese Deepfake Bilder
eine Art politisch motivierte Rache-Porn Aktion der extrem Rechten aus dem MAGA Lager an Taylor Swift ist" (die Spatzen pfeifen von den Dächern, dass es genau das ist).
Nachdem Taylor Swift sich gegen die Abtreibungsverbote positioniert hat, ihre Fans aufrief, sich für Wahlen zu registrieren (sie sagte nicht, wer zu wählen sei, es war lediglich ein Appell, überhaupt sich für die Wahlen zu registrieren und wählen zu gehen) und selbst ihre Besuche bei den Football Spielen ihres Freundes sind mittlerweile ein Affront für die extrem Rechten. Es darf für die nicht sein, dass sie im Publikum sitzt, einfach nur Spaß hat, rumtanzt, ihren Fans, die nun auch verstärkt zu den Footballspielen gehen, zuwinkt... So wie jeder andere Prominente Mensch in den USA, der rein zufällig aber Pro Trump ist... Nun ja, je rechter desto mehr haben die Taylor Swift auf den Kieker, weil sie nicht deren Werte teilt... um es mal so zu sagen. Nachdem diese Extremen versucht haben bei ihr einen Bud Light & Dylan Mulvaney Boykott abzuziehen, sich allerdings verschätzt haben, wie populär Taylor Swift und wie stark der Rückhalt ihrer Fans ist, steht "nun der Verdacht im Raum", dass diese Deepfakes ein paar der Spinner fabriziert und publiziert haben, um ihr Ansehen stark zu schädigen.

Die GOP wie auch MAGA / die extrem rechten in den USA wissen, dass sie bei den jüngeren Wählern / Erstwählern nicht sehr beliebt sind, was nicht verwunderlich ist.
Eine "konservative Pro Lifer & No Gun Control Partei, die immer wieder nur Thoughts and Prayers raushaut, gegen den Cut bei Studienkrediten war, die insbesondere seit den letzten Wahlen 2022 praktisch nichts mit ihrer Kongressmehrheit geschissen bekommen hat, wenn man von den wochenlangen Selbstzerfleischungen (2 Mal) rund um die Wahlen des republikanischen Speakers of the House absieht und sonstigen unwürdigen und peinlichen Auftritten zu jeder denkbaren Gelegenheit absieht" (um jetzt mal nur eine absolut Minimalauflistung zu bringen) braucht schon sehr spezielle Leute als Zielgruppe

Für die Demokraten ist das natürlich im Gegenzug die Gelegenheit, tatsächlich erforderliche schärfere Reglementierungen für KI Deep Fakes aller Art prominent auf die Agenda zu setzen. Ein Punkt, der eigentlich niemanden im gesamten politischen wie gesellschaftlichem Spektrum schmerzt, die GOP aber so nicht zulassen darf. Die neueste durch Trump initiierte Tagespolitik der GOP sieht vor, dass nun so kurz vor den Präsidentschaftswahlen Ende diesen Jahres, Biden / den Demokraten kein politischer Erfolg zugesprochen werden darf, da dies natürlich Trumps position schwächen würde. Entsprechend wird die eh bereits etablierte Blockadepolitik im Kongress noch weiter verschärft (siehe die aktuellsten politischen Bemühungen der Demokraten zur Sicherung der Grenze nach Mexico, ein Herzensthema der GOP, welches nun aber tatsächlich blockiert wird, damit die GOP / Trump nicht sein thematischen Zugpferde "illegale Migration" und "offene Grenzen" verliert).
Und nun haben die Demokraten 4D Schach erfolgreich durchgespielt und bringen etwas zur Tagesordnung, bei dem die GOP, also Trump, nur verlieren kann, denn wenn die an ihrer Blockadehaltung festhalten, ist extrem prominent (Millionen junger Wähler, oft genug Erstwähler, die ein echtes Interesse an diesem Thema haben) erkennbar, wer da blockiert und die Taylor Swift Fans werden das bis Ende des Jahres zu den Präsidentschaftswahlen sicher nicht vergessen. Oder aber die GOP beteiligt sich, lassen Trump nach seiner Ansage zur Blockade schwach aussehen, was Trump mit an Sicherheit grenzender Wahrscheinlichkeit zu weiteren Truth Posting BS-Rants treibt, die ihm auch nicht helfen, wenn es um das aktivieren neuer Wählergruppen geht, und es besteht sogar die Gefahr, dass in einem Ausschuss untersucht wird, wer Deepfakes produziert, insbesondere die, die jetzt Stein des Anstoßes waren, mit welcher Motivation diese verbreitet wurden und ggf. zu wessen Nutzen.

Die ganze Nummer ist für die Demokraten ein echter Bingpot

 

[Zhan]

Ich ärgere mich bei sowas immer am meisten darüber, dass ich auf Grund meiner eigenen moralischen Bedenken immer wieder nicht zu den Profiteuren dieser Möglichkeiten gehöre. Verdammt. Das wäre doch so einfach gewesen,.

 

[Chesterfield]

Gegen deepfakes?? Echt jetzt ? 😂 aber sich zur Kandidatur zum Präsidenten aufstellen lassen können??

Das klingt wie ein witz und Verhöhnung derer die echtes Interesse dran haben.

 

[scryed]

Hm , meiner Meinung nach warum wird sich gerade jetzt an "ai" aufgehängt , nur weil ein Software Tool was gut programmiert ist das automatisiert (mit KI hat das in meinen Augen nichts zu tun )

Sowas geht schon jahrelang da Brauch es keine "ki" nur mussten da noch Menschen Hand anlegen (Grafikdesigner , Programmierer hollywood) und war kostspielig und das konnten sich nur reiche trolle leisten herzustellen ...... Und wurde auch gemacht

Das wird die Welt jetzt nicht ins Chaos stürzen was es aber kann ist die einzelne "kleine" Person wie dich und mich zu schaden weil es jetzt einfacher machbar ist

Da Frage ich mich aber haben die Programme die im Umlauf sind nicht meist irgendwelche Vorrichtungen gegen sowas ,Photoshop und co wenn man die fragt mach das und das dann sagen die doch nein .....oder hat man die cracken können

 

[Dr. MaRV]

Der Geist ist aus der Flasche, die Erkenntnis kommt zu spät und Maßnahmen werden wirkungslos versanden. Die Sanktionen und Strafen, die folgen werden, werden wie immer nur jene treffen, die sich an die Regeln halten.
Wir sehen es in unserem Land beim Waffenrecht (besonders gut) und an der schönen Floskel "die gesamte Härte des Rechtsstaats...", die trifft auch immer nur den "kleinen Mann".

 

[AlphaKaninchen]

Vollkommen falsche Richtung...
Man sollte lieber Kindern schon in der Schule zeigen wie man so etwas erstellt, muss ja nicht mit Nacktbildern sein. Das Ziel sollte sein das bei Bildern die eher abwegiges darstellen die Echtheit infrage gestellt wird.

Das Regulieren und einschränken funktioniert doch am Ende eh nicht. Aber was war jetzt an diesen Bildern so speziell? Gefakte Nacktbilder sind doch nichts neues...

 

[Timesless]

Möglicherweise wird es eine AI zur erkennung von AI generierten Content geben (müssen).

Und dann dürfte es nicht lange dauern bis eine AI genau das wieder aushebelt...

 

[Belerad]

Meinungsfreiheit, freies Internet und Anonymität im Internet ist doch genau das was "wir" wollen. Das diverse Menschen sich dann eben genau diese Freiheiten herausnehmen und tun was Menschen eben tun, war doch völlig selbstverständlich und hat nicht erst mit KI Deepfakes angefangen. Alleine schon Bilder von Politikern denen Sprüche in den Mund gelegt werden, oder eher passend zu dem Fall, ins Internet hochgeladene Nacktbilder von der Ex sind doch auch nicht besser.