News Gegen Deepfakes und Desinformation: Wasserzeichen für KI-Inhalte von Google und OpenAI

[Andy]

Im Weißen Haus haben sich die führenden KI-Hersteller wie OpenAI und Google mit US-Präsident Joe Biden getroffen und eine freiwillige Selbstverpflichtung verkündete. Eine der Zusagen der Entwickler: KI-Inhalte sollen künftig mit einem Wasserzeichen markiert werden.

Zur News: Gegen Deepfakes und Desinformation: Wasserzeichen für KI-Inhalte von Google und OpenAI

 

[t3chn0]

Ich habe die Befürchtung, dass je mehr Mechanismen zum Schutz eingebaut werden, desto schwieriger wird es den Müll rauszufiltern.

Egal was man in der Digitalen Welt veröffentlicht. ALLES kann gefälscht werden. Die Frage ist niemals "wie", oder "ob", sondern einfach nur "wann".

Das wird noch richtig übel.

 

[MalWiederIch]

Wozu?

 

[aLanaMiau]

Direkt einen neuen Markt geschaffen:
KI um KI Wasserzeichen zu entfernen.

...machen die doch nur um Ahnungslose zu besänftigen...

 

[Otsy]

Ich habe die Befürchtung, dass je mehr Mechanismen zum Schutz eingebaut werden, desto schwieriger wird es den Müll rauszufiltern.

Egal was man in der Digitalen Welt veröffentlicht. ALLES kann gefälscht werden. Die Frage ist niemals "wie", oder "ob", sondern einfach nur "wann".

Das wird noch richtig übel.

Genau darum geht es doch: Fälschungen sollen (und können) damit nicht verhindert werden. Es kann aber zu einer einfacheren Methode zur Erkennung solcher dienen.

 

[Atnam]

Wozu?

Ich würde sagen damit man im kommenden US Wahlkampf vielleicht ne Chance hat irgendwie gegen die ganzen Fakes von Biden, Trump und co vorzugehen.
Gibt leider genügend Menschen auf beiden Seiten die einfach null Medienkompetenz haben und alles glauben was sie sehen und erst recht dann wenn sie es von Freunden und Verwandten zugesendet bekommen.

 

[midwed]

[...] Die EU ist auf rechtlicher Ebene weiter, beim AI Act hat sich das EU-Parlament bereits auf einen Entwurf verständigt. [...]

Das markierte "EU" (oder eine andere passende Benennung) fehlt im Fließtext @Andy ;]

 

[Axxid]

Wenn man bedenkt wie leicht sich auch ohne KI-Generierte Bilder die Massen (fehl)leiten lassen, ist das leider ein Kampf gegen Windmühlen.

 

[Termy]

Insbesondere im politischen Bereich gelten Deepfakes als besonders große Gefahr, um etwa Wahlen und politische Prozesse durch gefälschte Inhalte zu manipulieren.

Bei solchen Aussagen muss ich ja immer schmunzeln, wenn man sich den KI-Losen Wahlkampf der Vergangenheit so anschaut

 

[pseudopseudonym]

"Das muss echt sein, schließlich ist da kein Wasserzeichen".

Ich weiß ja nicht, ob diese Regelung förderlich ist...

 

[MujamiVice]

 

[edenjung]

Selbstverpflichtung.
Das liebste Wort der Industrie, um ja nichts machen zu müssen.

 

[Augen1337]

Wird nicht andersrum ein Schuh daraus?
Echte Inhalte müssen erkennbar sein. Es muss eine Chain of Trust erstellt werden, wie bei Zertifikaten für Internetkommunikation.

Wird ein Bild über eine Kamera erzeugt, wird ein Hash erzeugt, der nur über dieses Kameramodul erzeugt werden konnte. Wird das Bild verfremdet / bearbeitet, kann dieser Hash der eine Kamera erzeugt hätte, nicht erneut erzeugt werden. Es kann nur ein neuer Hash generiert werden, welcher die letzte Bearbeitung einwandfrei identifiziert.

Sind also Fake-News / Deepfakes / etc. im Umlauf, kann die Echtheit überprüft werden. Ist hingegen kein Original aufzutreiben, muss davon ausgegangen werden, dass das Bild generiert wurde.

So könnte zumindest die Echtheit bestätigt werden. Nicht aber, ob ein Inhalt eine Kopie ist oder ob es eine Abschrift aus ChatGPT ist.

 

[wern001]

Eigentlich falscher Ansatz. Jede Kamera sollte ein Wasserzeichen in das Bild setzten das nicht dupliziert werden kann. Jedwede Nachbearbeitung sollte das Wasserzeichen ungültig machen. Somit ist jedes Bild oder Film ohne gültiges Wasserzeichen als verdächtig einzustufen.

 

[Termy]

Echte Inhalte müssen erkennbar sein. Es muss eine Chain of Trust erstellt werden, wie bei Zertifikaten für Internetkommunikation.

Jau, das läuft dann wie HDCP und ähnlicher Dreck darauf raus, dass nur noch verdongelte proprietäre Systeme zugelassen bzw richtig verwendbar sind

Auch wenn die Idee an sich natürlich nicht verkehrt ist sehe ich da zu viele viel schlimmere Nebenwirkungen in der praktischen Umsetzung...

 

[SVΞN]

Ein zahnloser Papiertiger und weniger eine Lösung.

 

[Marflowah]

Unter Deepfake verstehe ich z.B. das schwer zu erkennende Ersetzen von Gesichtern auf Fotos und Videos.

Das funktioniert aber schon seit einigen Jahren sehr überzeugend, und das lange vor dem KI-Hype.

Wenn jetzt jemand mühsam manuell aber überzeugend ein Video manipuliert und veröffentlicht, wird dieses künftig als "echt" markiert, weil ja keine KI dahinter saß? Geil. 🤣

 

[wildfly]

Die Wasserzeichen von Code-Segmenten, die die KI erzeugt, kann man entfernen bevor man die Segmente in den Source-Control eincheckt.
Durch solche Code-Segmente sollen sich ca. 50% der Entwickler einsparen lassen.

 

[DerRobert94]

Wie so etwas funktionieren kann, erklärte Prof. Antonio Krüger, Leiter vom Deutschen Forschungszentrum für Künstliche Intelligenz, im Interview mit ComputerBase. Über Einträge in den Metadaten lasse sich demnach festhalten, ob und inwieweit Bilder mit einem der KI-Modelle bearbeitet worden sind. Nicht-manipulierte Bilder könnten dann markiert und als vertrauenswürdig klassifiziert werden.

Was soll denn der Käse bitte bringen? Da mache ich einfach ein Foto des generierten Bildes und das war es. Selbiges bei Video. Da werden heute schon sehr erfolgreich Wasserzeichen entfernt oder sonstige Methoden um z.B. Content-Filter auf Youtube zu umgehen.

Vor allem da wird sich im Weißen Haus getroffen? Das sieht mir mal nach extremer Beschwichtigungstaktik aus, eventuell - wirklich effiziente - Methoden zuvor zu kommen und sie mit billigen Theorie-Krempel zu umgehen.

Wenn jetzt jemand mühsam manuell aber überzeugend ein Video manipuliert und veröffentlicht, wird dieses künftig als "echt" markiert, weil ja keine KI dahinter saß? Geil. 🤣

Genau die Befürchtung habe ich auch.... das wird ja noch richtig lustig werden.

"Früher war alles besser" - Ja war es in der Tat, ich würde freiwillig mit Jemanden meines Standes mit wem aus den 1960er tauschen. Das was heute abgeht lohnt den Luxus einfach nicht wert den wir dafür aktuell haben. Einfach als Mönch leben ist auch nicht. Was man einmal erlebt, wird nie vergessen. In einer Welt wo etwas noch gar nicht existiert aufzuwachsen ist daher schon eher das Maß.

 

[Simanova]

2030: IHK führt anerkannte Berufsausbildung ein "KI Facility Management"