Was ist ein Deepfake?

[andi_sco]

fang am anderen ende der Nahrungskette an

Die junge Variante schaut mal gruselig aus

 

[madmax2010]

@Alpirsbacher80
Influencer tun das sehr viel um Geld zu verdienen und niedrigeren Beweggruenden wie du sie schon genannt hast
Besonders lustig, wenn leute an orte gelockt werden, die gar nicht exisiteren.
https://www.techradar.com/computing...and-we-all-need-to-learn-to-avoid-these-scams

Inzwischen gibt es ja sogar komplett AI Generierte Influencer.
https://stockhead.com.au/tech/ai-generated-virtual-influencers-like-mia-zelu-are-a-huge-problem/

Die junge Variante schaut mal gruselig aus

geht gruseliger, auch das ist nicht mehr unbedingt state of the art..

Ich habe in meetings auch schon aus Jux andere personen live imitiert. Nur um einen Standpunkt klar zu machen.. Mit Ansage natürlich.

 

[Alpirsbacher80]

Ich bin kein Gegner von KI.
Gerade in der Medizin, wird das vielen das Leben retten. Aber diese Bildgenerierung und Fakevideos halte ich für sehr sehr gefährlich. Klar mit nem Programm ein Bild von sich zum Comic machen zu lassen, finde ich witzig alles andere, wenn es um Täuschung geht, schwierig.

 

[madmax2010]

Ich finde das alles nicht toll. ICh finde es besorgniserregend wie viel es genutzt wird, wie einfach es zu nutzen und wie schwierig es zu erkennen ist.
Und die entwicklung ist so rastant, dass man selbst wenn man jeden Tag 8 Stunden in dem Feld arbeitet nicht mehr mitkommen kann
Dafür sollte Bewusstsein geschaffen werden.

 

[Alpirsbacher80]

in der Medizin, gerade in der Tumorerkennung ist KI schon ne sehr sinnvolle Sache.

Ich bin nur ein Gegner bzw. Kritiker bezüglich von gefälschten Videos und Bildern.

 

[Meta.Morph]

Und warum macht man das? Gleich vorweg, ist nicht böse gemeint. Was bringt es dir, vorzugaukeln, du wärst in NY gewesen ohne dort zu sein. Ist das fehlendes Selbstbewusstsein oder Neid?

Interessante Frage. Ich denke daran, das man (sich selbst) Erinnerungen einpflanzen kann. In der Retrospektive sind diese Erinnerungen von Echten nicht mehr zu Unterscheiden.

Ob das auch funktioniert, wenn man sich bewusst dazu entscheidet?

Ergänzung (Samstag um 16:21)

Dafür sollte Bewusstsein geschaffen werden.

Das ist ein hehres Ziel. Die Erfahrung sagt nein.

Kritiker bezüglich von gefälschten Videos und Bildern

Diese KI führt dazu, das wir einige sehr wichtige Veränderungen vornehmen müssen. Tun wir das nicht, ertrinken wir in Lügen. Dafür feiere ich diese art von KI.

 

[Child]

müsstest du quasi dazu schreiben, dass das Bild mit KI verändert wurde.

Oh cool - dann hab ich also auch schon kennzeichnungswürdige Deepfakes erstellt als ich aus von mir geknipsten Fotos den Kinderwagen im Hintergrund durch ne KI Funktion entfernt habe.

Und wie ist das dann mit Ai Denoise in bspw. Lightroom ?

 

[00Julius]

Interessante Frage. Ich denke daran, das man (sich selbst) Erinnerungen einpflanzen kann. In der Retrospektive sind diese Erinnerungen von Echten nicht mehr zu Unterscheiden.

Verstehe ich es richtig. dass es nicht um dich selbst geht?

 

[kachiri]

@Child Frag die EU. Ab Sommer 2026 müssen mit KI veränderte Medien gekennzeichnet werden.

Wobei ich diesen Sinn nach Perfektionismus eh nie verstehen werden. Wenn ich mich am vollen Nordseestrand fotografiere, muss ich halt damit rechnen, dass im Hintergrund Personen sind...

 

[Meta.Morph]

Verstehe ich es richtig. dass es nicht um dich selbst geht?

Ist doch ein Projekt, das man testen könnte. Man könnte sich Erinnerungen an Situationen schaffen, an die man sonst nicht gelangt wäre. Was ist Realität?

Kann natürlich auch in die Cyber-Dystopie/Psychose führen.

 

[Kuristina]

In der Retrospektive sind diese Erinnerungen von Echten nicht mehr zu Unterscheiden.

Das bezweifle ich. Es sind die Details, die Gerüche, Eindrücke, Empfindungen, ja vielleicht eine gewisse Aufgeregtheit, die du auf diese Weise nicht mit einpflanzen kannst. Das wird sich auch in Erzählungen bemerkbar machen.

 

[Thorakon]

Und warum macht man das? Gleich vorweg, ist nicht böse gemeint. Was bringt es dir, vorzugaukeln, du wärst in NY gewesen ohne dort zu sein. Ist das fehlendes Selbstbewusstsein oder Neid?

Ich "kenne" einen realen Anwender von sowas. Ein kleiner Live-Streamer (mit lukrativem Hauptjob) ist nach Südamerika ausgewandert, als "digitaler Nomade". Er war dann irgendwann auf der Suche nach Dates, aber nicht langfristige Beziehungen. Dafür hat er tatsächlich hart trainiert und seinen Körper in Form gebracht. Aber auf Tinder oder wie das dort heißt hat sich trotzdem keine für ihn interessiert. Dann kam er auf die Idee, Bilder von sich (natürlich in seiner jetzigen muskulösen Form) mit KI zu generieren. Er in Dubai, er lasziv auf einem Sportwagen lehnend, er einfach sehr schön beleuchtet in Nahaufnahme.
Seitdem läuft es prächtig, keines seiner Dates hat die Bilder je ernsthaft hinterfragt. (Obwohl klar ist, dass er nicht reich ist, wenn auch natürlich nicht arm für dortige Verhältnisse.) Er meinte, bei den Dates ist man eh so nervös, dass einem die kleinsten Abweichungen nicht auffallen, und schon jetzt sieht niemand so aus wie von den (selektierten, nachbearbeiteten) Bildern her zu erwarten. Und eigentlich würde man ja auch lieber die Bilder des vermeintlichen Traumpartners teilen, und die Traumwelt aufrecht erhalten, als die Story zu hinterfragen.

 

[00Julius]

Man könnte sich Erinnerungen an Situationen schaffen, an die man sonst nicht gelangt wäre. Was ist Realität?

Dafür braucht man aber weder Instragram noch KI Deepfakes.
Falsche Erinnerungen/Wahnvorstellungen gab es schon immer.