News AI-Fake-Porn von Taylor Swift: US-Administration will verschärfte Regeln gegen Deepfakes

[Dr.Pawel]

Für Betroffene blöd, aber kritisch wird es erst bei WIrtschaft und Politik. So oder so haben glaube ich erst wenige auch nur im Ansatz verstanden was KI einläutet, nämlich die nächste Ind. Revolution.
Im Moment ist alles noch vom Rücken auf den Bauch drehen, kein Mensch kann auch nur im Ansatz erahnen was da noch kommt. Das Problem mit überlegener AI ist, dass wir sie eben nicht mehr verstehen können!
Ich muss bei AI immer an Dan Simmons Hyperion denken, wie die AI ungesehen ins "Leben" schlüpft und schon kurz dannach kann kein Mensch mehr ihr "folgen". AI hat Nutzen für uns, welchen "Nutzen" haben wir für die AI (sobald Sie ihrer Selbst bewusst ist (was laut einigen ja schon der Fall ist))?

 

[sebish]

Schon belustigend, wie sehr sich einige jetzt gegen einzelne Dinge stemmen, von denen es in wenigen Monaten tausende für jede bekannte Persönlichkeit geben wird. Denke die ernsthaft, die könnten das jetzt noch stoppen oder regulieren?

 

[FR3DI]

Wann wird sich das im Aktienwert von Nvidia widerspiegeln?

Danke für den Lacher, der war sehr Originell!😁

Taylor Swift wird durch KI auch nicht attraktiver!

Ich bleibe Analog beim Bier, sollte es von Nöten sein.

Gruß Fred.

 

[Mimir]

Die generierten Bilder sind weniger realistisch als bisherige (Deep)fakes.… (hab ich gehört)

Warum das jetzt das Fass zum überlaufen bringt, kann ich nicht ganz nachvollziehen.
Ändert natürlich nichts daran, dass das eine unangenehme Situation für betroffene ist. Insbesondere wenn die Bilder irgendwann in Zukunft nicht mehr als fake zu erkennen sind. Aber die Diskussion hätte man wenn dann schon vor langer Zeit führen müssen.
Hab hier leider das Gefühl, dass man das Thema AI hier als Aufhänger nutzt.

 

[Blutschlumpf]

Das ganze bietet auch ungeahnte Chancen. Wenn ich das nächste mal geblitzt werde, dann schreibe ich denen zurück, dass deren Beweise Deepfakes sind. 🤭

 

[Rassnahr]

Man müsste also an der Wurzel, an den KIs selbst Hand anlegen. Wie man das bei Open-Source machen soll? Ehrlich gesagt keine Ahnung, man kann Regeln da ja nicht durchsetzen. Will man jeden Entwickler verklagen der ne KI ohne Schutzmechnismen auf GitHub oder Google Drive hochlädt? Bisher ist die Auswahl an großen Modellen für KI-Bildern noch recht übersichtlich, da kann man sicherlich auch Personen zur Verantwortung ziehen, aber aufgrund der freien Verfügbarkeit würde das niemanden davon abhalten anonym Schutzmechanismen wieder zu entfernen oder einfach den aktuellen Stand zu nehmen und selbst weiter zu entwickeln. Die Technik ist ja schon da - ganz ohne Schutz.

Ich denke die einzigeste Möglichkeit wäre die Kontrolle der Verbreitungsplatformen (bzw. des Verbreitungswegs), diese müssten ein vorgegebenes System integrieren, sodass nur noch verifizierte Personen (Per digitalem Personalausweis z.B.) überhaupt noch Medien hochladen dürfen, diese bekommen einen Public Key für die automatische Signierung zugewiesen (Public key vom digitalen Personalausweis z.B.)

Inhalte welche keiner Signatur einer verifizierten Person zugewiesen werden können werden dann direkt abgelehnt.

Alle platformen welche das Verifzierungsystem nicht integrieren werden per DNS blockiert.

Alle DNS/VPN/Proxy anbieter welche DNS einträge zu verbotenen Domains auflösen werden ebenfalls blockiert.
(per DNS und soweit möglich per IP )

 

[machiavelli1986]

Die KI-Desaster und KI-Havarien häufen sich immer schneller, mittlerweile kommen solche Meldungen im Tagesrhythmus.

Wann wird sich das im Aktienwert von Nvidia widerspiegeln?

Etwa so wie im Aktienwert von Firmen aus der Rüstungsindustrie? Verstehe da jetzt keinen Zusammenhang Nvidia anzuschmieren.

 

[foofoobar]

Man müsste also an der Wurzel, an den KIs selbst Hand anlegen. Wie man das bei Open-Source machen soll? Ehrlich gesagt keine Ahnung, man kann Regeln da ja nicht durchsetzen. Will man jeden Entwickler verklagen der ne KI ohne Schutzmechnismen auf GitHub oder Google Drive hochlädt? Bisher ist die Auswahl an großen Modellen für KI-Bildern noch recht übersichtlich, da kann man sicherlich auch Personen zur Verantwortung ziehen, aber aufgrund der freien Verfügbarkeit würde das niemanden davon abhalten anonym Schutzmechanismen wieder zu entfernen oder einfach den aktuellen Stand zu nehmen und selbst weiter zu entwickeln. Die Technik ist ja schon da - ganz ohne Schutz.

Die Katze ist aus dem Sack, ob man sie wieder hinein bekommt?

Die Konsumenten sind das Problem, allerdings hingt die menschliche Kultur immer noch den Auswirkungen der Skinnerboxen hinterher die jeder von uns in der Tasche mit sich rumschleppt, allerdings sind die ziemlich idiotischen und dämlichen Verhaltensmuster die diese Skinnerboxen erzeugen ziemlich tief im Gehirn angelegt.

Ich hab eben gerade mal nach der Tante gegoogelt, warum ist die eigentlich mit dieser gewöhnlichen Durchschnittsmucke relevant?

 

[Rickmer]

Microsoft Designer?

Da wäre ich im Leben nicht drauf gekommen - ich hätte mit voller Inbrunst erklärt, dass die dafür eine lokal laufende Stable Diffusion Variante genutzt haben müssen, weil der Rest zu zensiert oder zu unflexibel ist.

Warum hat es jetzt einen Vorfall mit Promis gebraucht, damit die US-Politik auf Bundesebene sieben (!) Jahre später mal endlich aktiv werden mag?

Das Internet ist halt nicht nur für die Bundesregierung Deutschland ein Neuland... im US Senat sitzen doch auch nur Greise die eigentlich schon seit 10 Jahren und länger im Ruhestand sein sollten.
Ich muss nur meine eigenen Großeltern anschauen um zu wissen, wie wenig Technologieverständnis in Regierungen mit Altersdurchschnitt oberhalb des Renteneintrittalters vorhanden ist.

Meine Glaskugel sagt: AI-Fake-Porn wird schon recht bald eines der eher geringeren Probleme sein, die AI generierte Inhalte und per AI erstellte andere Fakes für alle Arten von Cyberkriminalität etc. verursachen werden.

Wie lange es wohl dauert bis die Erkennung von Deepfake Videos ein großes Problem für die Justiz wird?
Frei nach dem Motto 'einfach ein Video generieren und zu Polizei schicken und schon ist eine lästige Person verhaftet'...

 

[Gandalf2210]

Der größte Segen für alle die um Rache pornos fürchten müssen, und hier wird es als größte Gefahr dargestellt...

 

[Azeron]

Ich habe schon ein paar Videos von "Biden" (100% Fake) gesehen, die erschreckend überzeugend waren. Wenn sowas auf Tiktok rumgeht, kann das schnell zehntausende Menschen überzeugen und Wahlen nachhaltig manipulieren.

Die Manipulation geht natürlich auch in die andere Richtung. Es gibt reale Aufnahmen eines Politikers wo etwas gesagt wird (zB in nem Wirtshaus oder ähnlichem, man kennts) was der Reputation schaden kann, der Politiker streitet das aber ab und sagt es wäre Deepfake.

Wäre Deepfake damals schon besser gewesen, hätte ich dem Strache zugetraut dass er versucht sich damit aus der Ibizaaffäre rauszureden.

 

[Mcr-King]

Tja dazu ein Zitat von Sahra Conner " der Mensch erschuf die Ki um selbst zu wachsen denoch wuchs er nicht sondern nur seine Gier und die Ki selbst wurde zu mächtig".

Naja wir haben super Werkzeuge und benutzen sie für sowas naja der Mensch bleibt halt sie immer treu, was eigentlich dass Problem ist.

Auch bei X oder Insta deswegen bin ich dort raus echt schlimm geworden die beiden Läden.

 

[LuckyMagnum]

Verstehe das nicht ganz. Es sind also nicht deren echte Bilder, warum sollte es diese Berühmtheiten stören? Von denen werden noch viel schlimmere Karikaturen angefertigt.
Es wird ihnen ja körperlich nichts angetan und deren Bilder kursieren sowieso im Netz.
Bei Privatpersonen kann ich das verstehen, weil sie keine Karriere mit ihrem Auftreten in d. Öffentlichkeit machen.
Aber wenn ich mir vorstelle, hunderte Millionen oder sogar Billionen damit zu machen, in der Öffentlichkeit zu sein, würde mich das wohl kaum aufregen. (außer um noch mehr Aufmerksamkeit zu generieren)
Klar, wenn mich wirklich jemand beim *** filmen würde, ohne dass ich das will, dann schon. Aber wenn jemand nur Zeichnungen, Computeranimationen oder eben solche Bilder anfertigt, dann bin das doch nicht ich auf den Bildern. Warum ist das schlimmer, als irgendein armseliger Mensch, der Bleistiftzeichnungen von der Person anfertigt und sich darauf... und so weiter?
Vielleicht bin ich da zu sehr Autist. Ich verstehs wirklich nicht 🤷‍♂️
nicht böse gemeint.

 

[Dito]

Die Einfachheit und Zugänglichkeit von generativer KI wird uns alle in (fast) allen Lebensbereichen betreffen ...

Wird bestimmt in der Zukunft reguliert werden.

 

[Nuklon]

Videotheken wuchsen mit Porn,
Die ersten Bilder auf Computer waren unter anderen Porn,
Das Internet wuchs mit Porn
3D als Nische hat Porn
Und so wird auch KI dafür genutzt werden, Träume von Menschen mit sexuellen Inhalten zu erfüllen.

Egal welche neue Technik. Immer war die Sexindustrie vorn dabei diese zu nutzen.

Wer völlig davon überrascht ist, das eine der ersten Anwendungen genau das ist, hat wohl bisher nicht gut aufgepasst.

Jetzt versuchen nationale Regierungen in einem internationalen Netz den Teufel wieder in die Dose zu drücken. Ich habe so meine Zweifel wie gut das funktioniert.

 

[nebukadnezar.ll]

Weil Elon selber ein großer Fan von Frau Swift ist, hat er alle Suchen nach ihr gestoppt:

https://www.handelsblatt.com/untern...-fotos-suche-nach-taylor-swift/100011033.html

 

[Krazee]

Warum hat es jetzt einen Vorfall mit Promis gebraucht, damit die US-Politik auf Bundesebene sieben (!) Jahre später mal endlich aktiv werden mag?

hm, also ich würde tippen, weil die Vereinigten Staaten so ziemlich handlungsunfähig geworden sind.

Und da braucht es eben eine gute Vorlage. Dafür ist das Geschehene die perfekte Gelegenheit.

Das Problem und die Gefahr sind den Leuten dort sicher bekannt - und das auch parteiübergreifend. Es kann ja im Endeffekt Jeden treffen. Nur politisch/gesetzlich umsetzen, braucht eben auch eine gewisse Popularität und Rückhalt in der Bevölkerung.

Taylor Swift eignet sich da gut.

Sie ist da wesentlich nützlicher als beispielsweise die gefakten Biden Anrufe in New Hampshire vor einer Woche. Zumal es gegen die Demokraten ging und das wird sich wohl kaum ein Republikaner auf die Fahnen schreiben.

Man sollte meinen, dass Wahlen und Demokratie wichtige Themen sind. Doch ein berühmter Promi ist eben noch mal etwas anderes. Vor allem im Wahljahr, wenn die News übersättigt sind mit langweiligen Wahlthemen. Das ganze Infotainment wird sich liebend darauf stürzen.

Die gefakten Biden-Anrufe waren oft nur eine Randnotiz. Manche haben auch gar nicht erst darüber berichtet.

Es verdeutlicht, dass solche News eine Wahl betreffend (noch dazu im Wahljahr) eine geringere Reichweite haben, als wenn die Person des Jahres 2023 betroffen ist.

Die gefakten Biden Anrufe waren mal Thema für einen Tag. Über diese Sache jetzt wird wesentlich länger berichtet und sich auch wesentlich länger berufen werden.

 

[SKu]

Hier ist halt ein Promi Opfer von Deepfake geworden und das erzeugt natürlich mediales Interesse. Wäre das eine 0815-Frau gewesen, wäre das wahrscheinlich irgendwo einfach im Netz im Nirgendwo versunken und hätte das Leben trotzdem massiv beeinträchtigt.

Vor dem Gesetz sind alle gleich, nur manche sind eben gleicher als andere.

Noch schlimmer wären Deepfakes im politischen Metier, da hier mittlerweile in ganz Europa ein starker Rechtsruck zu erkennen ist. Hier könnten Deepfakes auch weiter dazu beitragen, dass ein gewisses Meinungsbild nach außen getragen wird.

"AI" wird uns noch gewaltig auf die Füße fallen. Mittlerweile hat ja selbst Chat GPT Einzug in Fahrzeuge erhalten - natürlich für die bessere Sprachkommunikation. Welche Daten von davon verarbeitet werden, ist völlig unklar - wahrscheinlich alle.

Mittlerweile sind viele Videos gefaked, auch im politischen Umfeld. Am Freitag sah ich erst ein eigentliches Demonstrations-Video der deutschen Landwirte, aber inhaltlich wurden dort ebenso Inhalte von den Demonstrationen gegen Rechtsextremismus verarbeitet.

Normalerweise müsste bereits an Schulen ein Grundkurs für den Umgang mit medialen Inhalten eingeführt werden, damit die Menschen auch verstehen, dass alles, was sie im Internet preisgeben auch dort bleibt und nicht einfach verschwindet.

 

[brthr_nemiel]

Ich denke die einzigeste Möglichkeit wäre die Kontrolle der Verbreitungsplatformen (bzw. des Verbreitungswegs), diese müssten ein vorgegebenes System integrieren, sodass nur noch verifizierte Personen (Per digitalem Personalausweis z.B.) überhaupt noch Medien hochladen dürfen, diese bekommen einen Public Key für die automatische Signierung zugewiesen (Public key vom digitalen Personalausweis z.B.)

Inhalte welche keiner Signatur einer verifizierten Person zugewiesen werden können werden dann direkt abgelehnt.

Alle platformen welche das Verifzierungsystem nicht integrieren werden per DNS blockiert.

Alle DNS/VPN/Proxy anbieter welche DNS einträge zu verbotenen Domains auflösen werden ebenfalls blockiert.
(per DNS und soweit möglich per IP )

Ich könnte mir vorstellen das dies so kommen könnte.

Vielleicht mit gradueller Abstufung je nach art der KI-technologie und Möglichkeit. Ähnlich wie bei Forschung und Produktion mit Radioaktivität, gewissen chemischen Produktion und Reaktionswegen, Gentechnik vor allem im Zusammenhang mit Virologie. Theroretisch kann da auch jeder an Wissen gelangen und sachen in seiner Garage zusammenkochen, aber es gibt doch einige kritische Hürden die das en masse verhindern. Wie zb Personen oder Insitutsnachweis beim Beschaffen von kritischen Chemikalien oder Software. Zb benutze ich bei meiner molekularbiologischen/biochemischen Forschung auch Software die zb Exportregulationen unterliegen oder Chemikalien die einen Beschaffungsnachweis benötigen.
Bei Einreisen, zb in die USA, kriege ich bei Bordercontrol auch nicht die Touristen-Standardfragen sobald mein Beruf aufm Plan steht...

Im Moment ist noch Goldrausch wie im "Wilden Westen" was KI-technologien angeht, wie bei jeder anderen Massgeblichen Technologie auch

 

[Beg1]

Ich finde KI interessant und nutze es gerne, gehöre allerdings auch zu den Menschen, die anderen niemals mit irgendwelchen Deepfakes schaden würden. Zudem funktioniert mein Gehirn in den meisten Situationen und ich glaube "Verschwörungstheorien" nicht, wobei bestimmte Deepfakes theoretisch jeden täuschen können.

Man hätte solche Regelungen vor 5+ Jahren auf den Weg bringen müssen, jetzt ist es zu spät, selbst frei verfügbare Modelle sind mittlerweile so gut trainiert, dass man damit sehr überzeugende Ergebnisse bekommt.

Und wenn ich in meiner Zeit auf dieser Erde eine Sache gelernt habe: den meisten Individuen ist es egal, wievielen Mitmenschen sie mit ihrem Verhalten schaden, solange es für sie einen persönlichen Nutzen hat.

In einer perfekten Welt wäre AI etwas Positives, in unserer Welt könnte sie sich tatsächlich zu einer großen Gefahr entwickeln.
Vermutlich werden Politiker bald bei Live-Auftritten einen Tanz aufführen müssen, der über eine Online-Abstimmung ausgewählt wurde