News Deepfakes in der US-Wahl: Midjourney will Trump und Biden aus dem Bildgenerator verbannen

Status
Neue Beiträge in diesem Thema müssen von einem Moderator freigeschaltet werden, bevor sie für andere Nutzer sichtbar sind.

Andy

Tagträumer
Teammitglied
Registriert
Mai 2003
Beiträge
7.742
  • Gefällt mir
Reaktionen: SweetOhm, Michael vdMaas und Rockstar85
Reines Marketing. Wenn ich etwas unzensiertes will, lasse ich Stable Diffusion halt lokal laufen. Ist einfacher als in CS2 ein lokales LAN Match zu starten...
 
  • Gefällt mir
Reaktionen: Lora, Zhan, Yasya und 7 andere
Läuft nicht so gut mit dem Internet oder? Google und Co. wurden durch Unmengen an Filtern zu dem was sie jetzt sind, unbrauchbare Suchmaschinen und das gleiche ereilt uns mit den KI-Tools. Sollten wir vllt. nicht doch mal wo anders ansetzen?
 
  • Gefällt mir
Reaktionen: Tr0nism, CableGuy82, nERdWIN und 9 andere
Schöne neue Welt, aber der Geist ist der Flasche entsprungen, und lässt sich wohl auch nicht mehr einfangen.
Wenn Dystopie und Realität immer mehr verschmelzen (für mich), gruselt es mich.
 
  • Gefällt mir
Reaktionen: Weyoun, SweetOhm, CableGuy82 und 2 andere
Es wird darauf hinauslaufen, dass es Leute gibt die KaaS - KI as a Service anbieten werden, um alles zu generieren was der Kunde will...

Auf der anderen Seite ein super Geschäftsmodell mit dem man wahrscheinlich gut Geld machen kann.
 
  • Gefällt mir
Reaktionen: CableGuy82
Wenn dann sollte man generell darauf achten, dass keine Personen aus dem öffentlichen Leben generiert werden können. So eine pseudo Zensur zu einem bestimmten Ereignis ist doch total Banane wenn man sonst ungehindert irgendwelche Fakes machen kann.
Ich meine jetzt speziell bei den öffentlich Generatoren im Netz, klar privat mit SD wird man so etwas immer machen können. Ist aber auch mit mehr Aufwand verbunden.
 
  • Gefällt mir
Reaktionen: GameOC und mightyplow
Finde ich gut. Dass erst dank Swift da was „losgetreten“ wurde, spricht wieder Bände.

Erschreckender fand‘ ich die News, dass in Asien 24mio in einer per KI und Deep Fake generierten videokonferenz das Opfer dazu gebracht wurde, die Kohle zu überweisen. Da gab es glaube ich gar keine News hier.
 
  • Gefällt mir
Reaktionen: Copium, SweetOhm, CableGuy82 und eine weitere Person
Es könnte sogar den gegenteiligen Effekt haben, wenn es weniger KI Bilder gibt und die meisten KI Bilder markiert werden, könnte Leute leichter auf Fakes reinfallen, die eben nicht markiert sind, weil extern erstellt und so manipuliert, dass sie nicht automatisch als KI Bilder erkannt und markiert werden können.
 
kokiman schrieb:
Läuft nicht so gut mit dem Internet oder? Google und Co. wurden durch Unmengen an Filtern zu dem was sie jetzt sind, unbrauchbare Suchmaschinen und das gleiche ereilt uns mit den KI-Tools. Sollten wir vllt. nicht doch mal wo anders ansetzen?

was genau ist unbrauchbar? war mir immer eine grosse hilfe
 
  • Gefällt mir
Reaktionen: Mills97, Augen1337 und CableGuy82
Deepfakes und AI-Bilder sind mächtige Instrumente und quasi jeder hat Zugang dazu, dabei darf einem schon mulmig werden und ich fürchte wenn Midjourney sich aus der Gleichung entfernt, werden trotzdem noch genug fragwürdige Inhalte in Umlauf gebracht werden.
 
  • Gefällt mir
Reaktionen: Relict, CableGuy82, DNS81 und 2 andere
Aber nicht nur StableDiffusion.

Ich hab mal nen Weilchen lang Gameplay als Deepfake aufgenommen. Also ich spielte Games wie Resident Evil 2 Remake usw. Und hatte mich separat über ne Facecam aufgenommen und das ganze lokal (das ist nun 2 Jahre her) als Deepfake erstellt. Okay, das Procedere dauerte am Anfang eine Ewigkeit. Ich hatte ein Modell erstellt mit über 2 Millionen It´s Trainingseinheiten. Ja, das ganze Training lief Monate lang durch.

Das Ergebniss konnte sich meiner Meinung nach wirklich sehen lassen. Ich war Trump, ich war Biden, Putin, Will Smith usw. usf.

Wurde auch immer fein von mir direkt als DeepFake bezeichnet. Im Titel ganz Fett, sowie in der Videobeschreibung. Ich glaub, ich war der erste, der den längsten DeepFake am Stück erstellt hatte. Ein durchgehendes Video mit 45 Min. länge. Kann man sich vorstellen, bei 30FPS mit 45Min, wieviele Bilder FFMPEG aus meinem Video extrahieren musste...Dauerte gute 12 Std. Das Training dauerte gar nicht mehr so lange, denn ab einem Punkt, konnte man das Training sowie die Masken und Maskentraining einfach skippen, weil das Modell meinen Kopf und den Kopf von Biden oder Trump/Clinton perfekt kannte und eine Prediction eingebaut war.

Viel Arbeit für ein Hobby und eine schwitzende 2070S damals ^^.

Also es geht auch lokal. Mittlerweile nur viel schneller, als wie ich das noch kenne.

Der Geist ist schon sehr sehr lange aus der Flasche.

LG
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Copium, CableGuy82 und controlokk
Ich finde es wichtig das KI erstellte Inhalte markiert sind, um zumindest die Gefahr einer negativen Feedbackschleife zu begrenzen.
Je mehr KI mit schlechten KI Ergebnissen trainiert wird, desdo schlimmer wird das Resultat.
Ich denke auch das man in Zukunft mehr auf eigene lokale Varianten zugreifen wird die für den eigenen Zweck bessere Ergebnisse liefern.
Stable Diffusion hat weniger "sorry dazu kann ich nichts sagen" Barrieren die momentan so strikt sind dass der Nutzen einer Frage an Chat GPT nahe null kommt und es sowohl albern als auch frustrierend wird.
 
  • Gefällt mir
Reaktionen: CableGuy82
Ich sehe schon die Angebote im Darknet, zensierte KI-Bilder für horrende Summen erstellen zu lassen. 🙈 Dann das Gesetz, das den Besitz zensierter KI-Bilder verbietet. 👀
 
  • Gefällt mir
Reaktionen: -MK
k0ntr schrieb:
was genau ist unbrauchbar? war mir immer eine grosse hilfe
Leider muss ich dem wiedersprechen.
Google Suche bringt nicht mehr so gute Ergebnisse wie vor 5-10 Jahren!
Was aber auch daran liegt dass das Internet durch KI völlig verhunzt wurde.
Wenn ich jetzt eingebe "Palworld ruckelt" komme ich in den ersten 5 Ergebnisse auf komische webseiten die KI generiert wurden mit möglichst generischen Fehlerbehebungen. Wo möglichst viel Text drauf steht damit man möglichst lange auf der Seite bleibt aber nix hilfreiches dazu findet.
Sowas gabs vor 10 Jahren eher weniger, da fand man Forums posts von leuten die ähnliche Probleme haben oder Lösungsvorschläge angezeigt haben.

Wenn ich nur in meiner typischen Blase von Computerhardware oder so google funktioniert ja noch alles halbwegs okay. Aber sobald ich mal ein neues Thema entdecke oder leicht komplexere themen suche finde ich nur noch sehr schlechte ergebnisse.
Leider sind duckduckgo, ecosia und die sonst so bekannte alternativen nicht wirklich hilfreicher.
 
  • Gefällt mir
Reaktionen: Zenschy, eyefinity87, p4z1f1st und 5 andere
Tapioka84 schrieb:
damit die Legal-Abteilung bei Midjourney keine Überstunden leisten muss.
Ist ja deswegen nicht falsch, wenn die Maßnahme Deepfakes durch deren Software verhindert. Dass es grundsätzlich andere Möglichkeiten gibt, können sie ja schlecht verhindern.
 
  • Gefällt mir
Reaktionen: CableGuy82, 0xtapi und DNS81
Cool Master schrieb:
Es wird darauf hinauslaufen, dass es Leute gibt die KaaS - KI as a Service anbieten werden, um alles zu generieren was der Kunde will...

Auf der anderen Seite ein super Geschäftsmodell mit dem man wahrscheinlich gut Geld machen kann.
Die Gedanken, was man daraus Gutes, aber auch schlechtes Erwecken kann, macht schon Angst. Aber man muss halt auch sagen, dass wir immer noch dichtet an der Utopie sind. Stelle ich mir aber zB. vor, dass zb. ein Vladimir Putin Deepfake mit Krieg droht, oder ein XI Ping deepfake den Angriff auf Taiwan aufruft, dann macht mir das schon Sorgen. Dennoch gibt es genug gute Optionen die man mit dem derzeitigen KI Modellen erreichen kann.

Es war schon immer so, dass Technologie für gutes und für schlechtes nutzbar war. Wir müssen am Ende halt das moralisch richtige tun
 
Status
Neue Beiträge in diesem Thema müssen von einem Moderator freigeschaltet werden, bevor sie für andere Nutzer sichtbar sind.
Zurück
Oben