News AI-Fake-Porn von Taylor Swift: US-Administration will verschärfte Regeln gegen Deepfakes

[Rassnahr]

Richtig... Wenn man aber nur noch Bildern mit einer Signatur glauben kann, dann wird alles daran gesetzt sie zu fälschen.
Dann hat man signierte gefakte Bilder.

Es geht hier um digitale Signaturen also zb per RSA verschlüsseltem sha256 hash deines hochgeladen Videos.

Oder vergleichbare öffentliche, weit verbreitete, seit Jahren verwendete und regelmäßig geprüfte Algorithmen.

Es gibt keine bekannten Schwachstellen bei RSA bei ausreichender Schlüssel länge (4096bit oder mehr) und richtiger Implementierung.

 

[Mimir]

@aLanaMiau: Für PS braucht man Skill und kann keine Fake-Bilder wie am Fließband produzieren. Gleiches gilt für qualitativ hochwertige gefakte Videos, Audioaufnahmen und erfundene Texte.

Ein Mensch mit einer Pistole ist harmlos, hat jeder unendlich viele Bazookas und das ohne Hintergrundüberprüfungen, dann wirds witzig.

Und die potenzielle Menge macht jetzt den großen Unterschied? Also ein Faktor, der sowieso über Zeit skalieren würde und der auch über die Jahre mit einem einfacher zu bedienenden Photoshop begünstigt wird? (Das macht deinen Vergleich imho dann auch unpassend, denn die Anzahl der Fakes steigt ja immer, selbst wenn sie nur eine Person erstellen würde, die alten hören ja nicht einfach auf zu existieren)

Ich weiß nicht, für mich scheint das ein politisches Thema im Bezug auf KI zu sein.
Fakes gibts schon viel zu lange in größerer Anzahl als das aktuell in KI generierter Form der Fall ist.
Da macht es einfach keinen Sinn, dass KI jetzt der Sündenbock sein soll.

 

[ownagi]

@Stimpanse: Korrekt, Wähler, die Biden aus Überzeugung wählen, würden sich sicher nur schwer beeinflussen lassen.

Aber (ja, es ist die Zeit, einen ähnlichen Artikel gibt es auch vom Stern ... ok auch nicht besser): https://www.zeit.de/politik/deutsch...entscheidung-unentschlossenheit-taktik-aufruf

Hier noch eine alte Umfrage über die mögliche Einstellung anderer Bürger: https://de.statista.com/statistik/d...enheit-der-waehler-in-ihrer-wahlentscheidung/

Zugegebenermaßen sind das nicht die besten Ergebnisse, aber zusammen mit der Tatsache wie SPD und CDU jeweils zum Jahresanfang der letzten Bundestagswahl dastanden und auch was gerade mit der AfD passiert, wählen die meisten Bürger wohl nicht aus persönlicher Überzeugung.

Der Vollständigkeit halber: Die SPD war lange weit abgeschlagen in Umfragen und die CDU stand bis zum Flut-Lacher von Herrn Laschet halbwegs gut da.

In den USA spielen Medien und reißerische Schlagzeilen eine sehr viel größere Rolle im Wahlkampf als bei uns. Je fieser desto besser, Wahrheitsgehalt teilweise zweitrangig. Ich denke auch nicht, dass die letzte Wahl maßgeblich durch (russische) Bots beeinflusst wurde, einen Einfluss von sozialen Medien möchte ich aber ebenso wenig abstreiten.

 

[[wege]mini]

Ein schweres und emotional aufgeladenes Thema.

Ich würde persönlich versuchen, das in den Verkehr bringen härter zu bestrafen. Reines Löschen bringt nichts. Das Erstellen kann man sowieso nicht verhindern. Schon das Erstellen aber direkt zu bestrafen oder unmöglich zu machen, würde extrem schwer sein, bei der Umsetzung.

Die Betroffenen dürfen es natürlich nicht an sich heran lassen und die Konsumenten müssen natürlich auch wissen was sie Konsumieren. Hier hilft Bildung.

Auf einer gewissen Ebene ist es sogar eine Form der Anerkennung.

Frau Merkel würde bestimmt keiner Deep-Faken für Pornos. Wer will das sehen?

mfg

p.s.

Und Pubertiere, Schmutzfinken und Neider, wird es immer geben. Alle dafür nötigen Eigenschaften waren auch in der Büchse der Pandora.

Naja, hoffentlich hilft die Hoffnung. Die war auch drin.
Manche sagen als letzte Rache, andere sagen als Hilfestellung für eine Art, die von Göttern bestraft wurde, weil sie einfach misslungen ist.

p.s.s.

Und ganz klar, wenn man SKANDAL brüllen will, dann ist es ein Skandal, dass die Politiker erst tätig werden, wenn eine Person wie Frau Swift betroffen ist.

 

[MDM]

Mit Sicherheit - aber wie oben geschrieben, halte ich eine Wahlbeeinflussung durch social media/paar deepfake Vids für nicht relevant.

Das sieht unsere Regierung aber anders.

https://www.zdf.de/nachrichten/poli...waertiges-amt-russland-ukraine-krieg-100.html

 

[Gravlens]

@aLanaMiau: Für PS braucht man Skill und kann keine Fake-Bilder wie am Fließband produzieren. Gleiches gilt für qualitativ hochwertige gefakte Videos, Audioaufnahmen und erfundene Texte.

Vor allem konnte man die Fake-Bilder sowie auch Videos relativ leicht als solche erkennen da sehr oft Originalaufnahmen für diese Fakes zugrunde lagen.^^

Das letzte mir bekannte Beispiel dazu war ein Video welches die angebliche Zerstörung von Panzern im Ukraine-Krieg zeigen sollte, dies konnte leicht durch die bereits existierenden Originalaufnahmen als Fake identifiziert werden.

Wenn es durch AI generiert wird werden zwar indirekt auch Originalaufnahmen verwendet, aber diese dann zuzuordnen kann wesentlich schwieriger werden, da aus denen quasi neue Bilder generiert werden.^^

 

[wern001]

Das ganze läst sich doch leicht lösen.
Jede Kamera muss ein unsichtbares nicht veränderbares Wasserzeichen implementieren. Jedes verändern des Bilder (ein Video besteht auch nur aus Bildern) soll dieses Wasserzeichen ungültig machen.
Keine Plattform dürfe mehr ein Bild/Video veröffentlichen wo ein ungültiges Wasserzeichen hat.

 

[MDM]

Das ganze läst sich doch leicht lösen.

Weia... du meinst so wie bei Banknoten? Jepp, problemlos.

Jede Kamera muss ein unsichtbares nicht veränderbares Wasserzeichen implementieren.

Jepp, da gibts doch sicherlich was von Ratio... Blockchain.

 

[Hellyeah]

Wie hier viele den totalen Überwachungsstaat fordern

Ich würde sogar noch für die andere Richtung argumentieren. Sprich, die Regeln für diese KI generierten Bilder/Videos/Audio aufweichen und das Internet komplett darin Untergehen lassen. Vielleicht werden dann endlich mal die Leute begreifen, dass man sich seine Nachrichten nicht ohne Vorsicht aus dem Netzt ziehen kann.

Sinnvoll eindämmen oder verbieten kann man es sowieso nicht mehr.

 

[Arcturus128]

wie oben geschrieben, halte ich eine Wahlbeeinflussung durch social media/paar deepfake Vids für nicht relevant. Ich kann mir nicht vorstellen (kA, ob es dazu belastbare Auswertungen gibt), dass Biden-Wähler durch "russische Bots/deepfake Vids" auf social media danach Trump wählen...

Wer nicht von einer Richtung überzeugt ist, sondern schwankt – und davon gibt es viele – der lässt sich durchaus von so etwas beeinflussen. Insbesondere wenn es kurz vor einer Wahl käme.

 

[machiavelli1986]

Wie hier viele den totalen Überwachungsstaat fordern

Ich würde sogar noch für die andere Richtung argumentieren. Sprich, die Regeln für diese KI generierten Bilder/Videos/Audio aufweichen und das Internet komplett darin Untergehen lassen. Vielleicht werden dann endlich mal die Leute begreifen, dass man sich seine Nachrichten nicht ohne Vorsicht aus dem Netzt ziehen kann.

Sinnvoll eindämmen oder verbieten kann man es sowieso nicht mehr.

Das funktioniert gesellschaftlich bei systemrelevanten Dingen (und dazu zähle ich mal das Internet) aber nicht. Das zeigen ja genügend Bananenrepubliken auf der Welt und auch das eine odere andere europäische Land ist weit weg von optimal. Wenn von heute auf morgen das Internet in kompletter Anarchie endet, dann ist Krieg und es läuft nicht mehr viel. Die Herausforderung des Staats ist es, eine vernünftige Balance zu finden. Ohne geht es halt nicht und wenn grundsätzliches demokratisch legitimiert ist, ist das auch ok.
Das perfide erniedrigen von Frauen im Internet erachte ich jetzt nicht als zu suchende Balance in dem Bereich (egal ob das jetzt mittels KI oder sonst wie geschieht). Solche Typen (ja sind es, was sonst) gehören saftig bestraft, dass es richtig schmerzt und abschreckend wirkt. Aber, es ist traurig, dass erst reagiert wird, wenn es eine milliardenschwere Prominenz betrifft. Ich erachte sogar das Geschehen bei einem Promi als weit weniger tragisch als beim Schulmädchen im Dorf, dessen Leben einige Zeit aus den Fugen gerät. Die Taylor wirds definitiv verkraften, viele unbekannte Frauen, gerade im jungen Alter, aber nicht.

 

[[ChAoZ]]

Taylor Swift hat Stand heute, ca. 1.1 Mrd. USD auf dem Konto bzw. im Besitz.
Dieses Geld hätte sie mit einem normalen Job nicht in 1000 Leben erwirtschaftet.

Das ist der Preis. Du bist Top 0.000001% Verdiener dieser Erde, dafür bist du auch die Zielscheibe der Medien und vieler Menschen. Habe die Deepfakes gesehen.... gibt schlimmeres als von einer AI so dargestellt zu werden. Wenn sie das nicht mehr möchte, einfach in die Rente gehen, sich nicht mehr in den Medien blicken lassen und in 24 Monaten hat sie jeder vergessen.....

Sorry, habe da wenig bis gar kein Mitleid mit ihr.

 

[ThreepQuest64]

Chris Hemsworth ist ok?

Nein.

 

[Tr8or]

Ich frage mich wieso bei Taylor Swift jetzt so eine Aufregung durch die Presse, Medien und Socials geht.
Als pünktlich zu Grettas 18. Geburtstag dutzende Deepfake Pornofilme auf den einschlägigen Plattformen erschienen hat auch keiner was gesagt.
Damals wäre die Aufregung und Empörung wohl eher angebracht gewesen.

 

[Stimpanse]

Das sieht unsere Regierung aber anders.

https://www.zdf.de/nachrichten/poli...waertiges-amt-russland-ukraine-krieg-100.html

Nicht falsch verstehen - dass diese (mögliche) Beeinflussung stattfindet und versucht wird, stelle ich nicht in Frage. Mich würde nur interessieren, ob die Beeinflussung TATSÄCHLICH stattfindet, sich also jemand aufgrund der Beiträge in seinem Wahlverhalten beeinflusst hat.

Wer nicht von einer Richtung überzeugt ist, sondern schwankt – und davon gibt es viele – der lässt sich durchaus von so etwas beeinflussen. Insbesondere wenn es kurz vor einer Wahl käme.

Bleibt eben Spekulation/Konjunktiv - will ich nicht zwingend abstreiten, halte es aber gerade in dem Bereich für irrelevant. Falls jemand dazu TASÄCHLICHE Auswertungen hat (wenn sich sowas überhaupt abschließend nachweisen/untersuchen lässt), wäre ich daran interessiert.

 

[iron_monkey]

Ganz verrückte Idee, man könnte auch einfach den Menschen die bestmögliche Bildung zukommen lassen, so dass die überwiegende Mehrheit unglaubwürdige DF selbständig erkennen könnte und sich nicht so leicht manipulieren ließe. Dann müsste man aber halt auch selber glaubwürdig agieren und das sowas nicht passiert, liegt bestimmt an den Kosten oder so… und bestimmt nicht daran, dass dann die Mehrheit sich nicht mehr durch die Wirtschaft ausbeuten ließe um die Eliten mit Ihrer Arbeit zu pimpern.