News SynthID Detector: Googles KI-Detektor ist jetzt für alle zugänglich

MichaG

Redakteur
Teammitglied
Registriert
Juli 2010
Beiträge
15.037
Vor gut drei Jahren hatte Google mit SynthID ein System zur Kennzeichnung und Erkennung von mittels künstlicher Intelligenz erstellten Medien geschaffen. KI-generierte Inhalte werden darüber mit einem digitalen Wasserzeichen versehen und lassen sich daran erkennen. Jetzt hat Google den SynthID-Detektor für jedermann freigegeben.

Zur News: SynthID Detector: Googles KI-Detektor ist jetzt für alle zugänglich
 
  • Gefällt mir
Reaktionen: flo.murr, Krazee, MaverickM und eine weitere Person
Jedermann ist dann wieder ein Teil der Techbubble, die davon überhaupt was mitbekommen. Die breite Masse lässt sich davon in den sozialen Medien vollmüllen und erkennt keinen Unterschied zwischen KI und Realität.

Vielleicht sollte die Menschheit in einigen Bereichen doch mal eine Pause machen und überdenken, ob das alles so wirklich eine gute Idee ist, aber dafür müsste man sich ja mal einigen und das bringt keinen Profit, also zumindest nicht, wenn man immer nur kurzfristig denkt.
 
  • Gefällt mir
Reaktionen: HolySkillet, boypac007, Nobbi56 und 14 andere
Return2Burn schrieb:
War schon zu blöd, Fakes von Photoshop zuerkennen und hinterfragen, die bekommst du nicht mehr erzogen.

Wird wohl eher Zeit, weniger Zeit im Netz zu verbringen....
 
  • Gefällt mir
Reaktionen: slow_snail, INe5xIlium, Zagrthos und 15 andere
Sie erkennen doch nicht mal KI auf ihrer eigenen Videoplattform, und jetzt das? Der Zug ist schon längst abgefahren.

Es ist ohnehin davon auszugehen, dass KI mittlerweile fast überall verwendet wird.
 
  • Gefällt mir
Reaktionen: usernamehere, INe5xIlium, Return2Burn und 2 andere
Woher stammen denn die 180 Milliarden gescannten Dateien? Aus dem öffentlich zugänglichen Internet, aus der Googlecloud, aus dem Darknet? Die wirklich interessanten Hintergrundinformationen dazu fehlen leider.

180 Milliarden ist eine recht große Zahl wie ich finde, das wären ca. 20 Dateien für jeden Erdenbürger, oder bei ca. drei Milliarden aktiven Internetnutzern sogar 60 Dateien pro Kopf ...
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Ginlock, T-Bone, ruthi91 und 2 andere
Sobald beispielsweise ein durch KI generiertes Bild mit Photoshop bearbeitet und neu gespeichert wurde und es nicht von Google AI erzeugt wurde, hat das Tool Probleme und erkennt den KI Ursprung nicht mehr. Habs gerade getestet.
 
  • Gefällt mir
Reaktionen: Volvo480, INe5xIlium, Matutin und 5 andere
Blackhorse79 schrieb:
Woher stammen denn die 180 Milliarden gescannten Dateien? Aus dem öffentlich zugänglichen Internet, aus der Googlecloud, aus dem Darknet? Die wirklich interessanten Hintergrundinformationen dazu fehlen leider.

180 Milliarden ist eine recht große Zahl wie ich finde, das wären ca. 20 Dateien für jeden Erdenbürger...
Das ist eine wichtige Frage die ich mir auch gestellt habe. Es dünkt mir dass da nicht alles mit "rechten" Dingen zuging...
Bitcatcher schrieb:
Sobald beispielsweise ein durch KI generiertes Bild mit Photoshop bearbeitet und neu gespeichert wurde und es nicht von Google AI erzeugt wurde, hat das Tool Probleme und erkennt den KI Ursprung nicht mehr. Habs gerade getestet.
Nicht nur das, lokal erzeugte Bilder und Videos werden davon auch nie erfasst werden.
 
  • Gefällt mir
Reaktionen: c-freak-p, the_IT_Guy und Holylemon
Blackhorse79 schrieb:
Woher stammen denn die 180 Milliarden gescannten Dateien?

Ich schätze mal da wird "ausversehen" jede hochgeladene Datei zum anlernen der KI verwendet.
 
  • Gefällt mir
Reaktionen: Slim.Shady, the_IT_Guy und Fighter1993
Return2Burn schrieb:
Jedermann ist dann wieder ein Teil der Techbubble, die davon überhaupt was mitbekommen. Die breite Masse lässt sich davon in den sozialen Medien vollmüllen und erkennt keinen Unterschied zwischen KI und Realität.

Vielleicht sollte die Menschheit in einigen Bereichen doch mal eine Pause machen und überdenken, ob das alles so wirklich eine gute Idee ist, aber dafür müsste man sich ja mal einigen und das bringt keinen Profit, also zumindest nicht, wenn man immer nur kurzfristig denkt.
es gibt zumindest auf X eine Markierung mit "mit KI erstellt". wie gut das funktioniert, weiss ich leider nicht, aber ist ein wichtiger Punkt
 
mmdj schrieb:
es gibt zumindest auf X eine Markierung mit "mit KI erstellt". wie gut das funktioniert, weiss ich leider nicht, aber ist ein wichtiger Punkt
Aber X ist das Paradebeispiel, wie Fake News ungefragt angenommen werden. Das kann jeder ja kurz selber testen und in die Kommentare rein schauen. Selbst der Hinweis Fake und KI führt zu keiner Erkenntnis dort, wie man unschwer erkennen kann.
 
  • Gefällt mir
Reaktionen: Drahminedum, Cruentatus, Holylemon und eine weitere Person
wern001 schrieb:
Ich schätze mal da wird "ausversehen" jede hochgeladene Datei zum anlernen der KI verwendet.
Das wird zu 100% geschehen.
 
mmdj schrieb:
es gibt zumindest auf X eine Markierung mit "mit KI erstellt".
Du kannst auch groß in roten Buchstaben quer "Fake" drüber schreiben und die Masse wird es ignorieren.
Es gibt so viel offensichtlich falsches.
Aber entweder es passt zur eigenen Meinung und muss deswegen echt sein oder es ist gut um sich drüber aufzuregen und hat deswegen echt zu sein.

Im Internet kommentieren ist wie Kinder kriegen - beides geht ohne denken aber nur weil man es kann, sollte man das nicht unbedingt machen...
 
  • Gefällt mir
Reaktionen: Krazee
Ich lehne mich mal aus dem Fenster und behaupte dass bei einem Großteil aller Medien die mittlerweile hochgeladen werden, egal ob TikTok, Spotify oder sonstwo, irgendwo KI drin steckt.

wern001 schrieb:
Ich schätze mal da wird "ausversehen" jede hochgeladene Datei zum anlernen der KI verwendet.
Dann muss jemand auch all diese Dateien taggen ob sie eben KI sind oder nicht. Einfach planlos Daten als Training zu verwenden funktioniert nicht.
 
Ok, damit ist es also auch kein brauchbarer "Schutz" vor KI-Inhalten, sobald jemand lokalen/exotischen KI-erstellten Content im Netz verbreitet?!

@S.Kara
Eben, viel zu fehleranfällig. Man kann schließlich auch ungetaggte Ki-generierte und inhaltlich falsche Daten hochladen.
 
QXARE schrieb:
Sie erkennen doch nicht mal KI auf ihrer eigenen Videoplattform, und jetzt das?
Erkennen nicht oder wollen nicht erkennen, das ist dann schon ein Unterschied.

Meta kennzeichnet auch lieber sämtliche normalen Bilder mit KI-Hinweis, als Bilder mit klarer SynthID als KI zu markieren.
Ergänzung ()

S.Kara schrieb:
Ich lehne mich mal aus dem Fenster und behaupte dass bei einem Großteil aller Medien die mittlerweile hochgeladen werden, egal ob TikTok, Spotify oder sonstwo, irgendwo KI drin steckt.
alleine schon, wenn über KI entrauscht oder nachgeschärft wird...
 
Also ich lese das so, dass die Inhalte/Medien bei der Erstellung den "Tag" eingebettet bekommen und nicht nachträglich; daher wird auch nur erkannt, was den "Tag" besitzt, oder?

Und bei der Masse an sinnlos generierten Inhalten... sind 180 Milliarden naja überschaubar würde ich behaupten.
 
  • Gefällt mir
Reaktionen: frazzlerunning
Da das Tool nicht zuverlässig funktioniert, schafft das meiner Meinung nach nur weiteres Misstrauen / Probleme. Mit dem Tool kann man jetzt 'verifizieren', dass etwas echt ist - aber da die Fehlerquote anscheinend hoch ist, lassen sich nun KI generierte Inhalte als belegte/geprüfte Tatsachen darstellen.

Edit: Lesen bildet - Das Tool ist nur für signierte Inhalte vorgesehen.
 
Zuletzt bearbeitet:
Wenn die Experten an der Quelle schon sagen, dass man damit rechnen muss, dass schon in einigen Monaten Massen an KI-Agenten quasi fast wortwörtlich das Netz übernehmen könnten, und wenn man sich mal Informationen und Dokus der jetzigen Probleme anschaut, was viele gar nicht wissen (wollen), dann wird mir schlecht.
Man kann ja schon jetzt ohne Probleme das FBI komplett ausnehmen, Behörden und Regierungsserver hacken.
Z.B. gab es einen Angriff auf Russland (Krim), wo massig geheime und sensible Dokumente entwendet wurden, das wurde natürlich von den Russen Verschwiegen.
Normale Webseiten werden von Agenten für eigene Zwecke zwecksentfremdet.
Bald kommt der Finanzsektor dazu.
Ich möchte nicht wissen, ab wann es möglich ist sich vollautomatisch Bitcoins anzueigen, oder Banken und Zahlungsdienstleister wie Paypal komplett zu übernehmen.
Und das Dank KI-Agenten sogar ohne Wissen des eigentlichen Nutzers/Auftraggebers, oder gerade deswegen.
Da weiß man nicht, welche Variante das Schlimmste ist.
Was für die Arbeitswelt und regierungen eine Katastrophe ist, ist für Pratleute schon jetzt ein völliges Durcheinander.
Kaum einer kann noch zwischen falsch oder echt differenzieren, oder will es nicht.
Es gibt eine hohe Dunkelziffer an KI-Persönlichkeiten im Netz, es gibt KI-Kanäle mit ausgedachten Personen, was sich Leute mitunter täglich reinziehen.
Auch wird das manipulativ für Wahlkampf und vor allem Propagandazwecke verwendet, um radikal rechte Mächte zu stärken.
Die USA macht da auch aktiv mit, sogar durch den Präsidenten selbst, letztere sind aber oft ziemlich lächerlich und unbeholfen gemacht.
Aber wenn angeblich heiße Mädels in diversen Kanälen ihre Meinungen kundtun, da gibt es massig User, die das liken und sich davon bezirzen lassen und ihr Hirn komplett überschreiben lassen.
Und die KI-Rechner füllen immer gleich ganze Räume, hab ich letztens noch in einer Doku gesehen, wo das gezeigt wurde, wo dann hunderte an Videofenster auf zahlreichen Bildschirmen gleichzeitig offen sind.
Da sackt einem die Kinnlade runter.
Auch jetzt hat man schon KI-Agenten statt einfache Assistenten an Service-Hotlines.
So musste ich erst kürzlich mit 2 von denen reden und meine Probleme schildern, ehe ich am Ende dann doch zu einem Menschen durchgestellt wurde.
Man findet das aber noch schnell heraus, weil sie erst einmal zu Ende reden, ehe sie auf einen reagieren.
Ok, sie stellen sich auch so vor, aber im Netz und bei nicht so netten Personen äh Computern ist das ja nicht so.
Das mit der Erkennbarkeit kann und wird sich aber schon sehr bald ändern.
Jetzt reden sich noch alle Befürworter damit raus, das sman halt ein wenig mehr aufpassen sollte, aber bei der rasanten Geschwindigkeit werden auch selbst die (selbsternannten) Profis bald ihre Probleme bekommen.
 
Zuletzt bearbeitet:
john.smiles schrieb:
War schon zu blöd, Fakes von Photoshop zuerkennen und hinterfragen, die bekommst du nicht mehr erzogen.

Wird wohl eher Zeit, weniger Zeit im Netz zu verbringen....

Es hat sich nix geändert
 
  • Gefällt mir
Reaktionen: RedSlusher und Drakrochma
Zurück
Oben