News Spanien setzt AI Act zuerst um: Hohe Strafen für nicht gekennzeichnete KI-Bilder geplant

[Krausetablette]

Aber es gibt viele Menschen, die Bilder nicht so wirklich hinterfragen, die Botschaft kommt trotzdem an.

Dann ist das so. Im Endeffekt ist es mir aber lieber, als wenn man unbequeme Wahrheiten als KI generiert hinstellen und deren Verbreitung auch noch mit hohen Strafen belegen kann. Bei dem, was weltpolitisch so los ist, könnte ich mir vorstellen, dass das dem einen oder anderen Politiker gefallen könnte.

 

[coxon]

Es sind im Prinzip 3 Schritte

Danke.

 

[Apocalypse]

Mal ganz ehrlich, so ein Quatsch, ob das Bild nun von einer KI kommt oder Photoshop spielt ja wohl eher keine Rolle oder?

So gesehen müssten ja schon bearbeitete Bilder gekennzeichnet werden oder wie ist das wenn man mit einer KI generierten Bilder als Lizenz vertreibt, ist man dann der Eigentümer oder die Budde der KI?

Doch, es spielt eine Rolle ob das aus dem Bildgenerator ohne Urheberrecht kommt oder ob da jemand dahinter steht der Tatsächlich das Urheberrecht an diesem Bild hat. Sogar eine große Rolle.

Und bereits bearbeitete Bilder werden in der Regel jetzt schon mit Copyright Hinweisen verstehen. Oft leider zu Unrecht auch KI Bilder. ;-)

Ergänzung (12. März 2025)

Also man muss schon was machen. Allerdings, diejenigen die täuschen wollen werden sich nicht von einer Wasserzeichenpflicht abhalten lassen.

Man kann sowas auch Maschienenlesbar direkt in die Bildausgabe von der Generativen AI verankern ... hält natürlich niemanden ab etwas zu fälschen der den Quellcode hat und verändern kann, aber als Vorschrift für die gängigen öffentlich zugänglichen Modelle ... durchaus nicht uneffektiv.

 

[Gandalf2210]

Und wie unterscheidet sich ein ki deepfake von einem klassischen außer vom Aufwand?
Ein Mittelfinger varoufakis ist also weiterhin erlaubt?

 

[wern001]

Das Kennzeichnen von KI Inhalten ist der falsche Weg. Echte Bilder/Videos müssten ein leicht überprüfbares Wasserzeichen haben das ungültig wird bei Manipulation vom Inhalt. Damit meine ich jetzt nicht das anpassen von Helligkeit oder Kontrast.

 

[Habu]

Ich würde es ja sinnvoller finden, stattdessen echte Bilder und Videos eindeutig kenntlich zu machen. Eine Kennzeichnungspflicht wird sicher niemanden abhalten, entsprechendes Material in Umlauf zu bringen. Und ist das Zeug erstmal im Internet, ist der Schaden schon angerichtet. Das wird ein Kampf gegen Windmühlen. Völlig an der Realität vorbei.

Sowas hätte funktionieren können, wenn es von vornherein in die entsprechenden Tools integriert worden wäre, ehe man sie Hinz und Kunz zur freien Verfügung gestellt hat. Aber der Zug ist mittlerweile abgefahren.

Ergänzung (12. März 2025)

Echte Bilder müsten ein leicht überprüfbares Wasserzeichen

Eine Minute schneller

 

[Krausetablette]

Echte Bilder/Videos müssten ein leicht überprüfbares Wasserzeichen haben das ungültig wird bei Manipulation vom Inhalt.

Es wäre vermutlich nur eine Frage der Zeit, bis eine KI in der Lage ist, ein Wasserzeichen so identisch in ein generiertes Bild einzufügen, dass es nicht mehr zu unterscheiden ist. Ich bin zwar kein Experte auf diesem Gebiet, aber bisher ist mir nichts begegnet, das nicht bereits erfolgreich gefälscht wurde. Für eine KI mit entsprechendem Training wäre das vermutlich ein Kinderspiel.

 

[Habu]

Es wäre vermutlich nur eine Frage der Zeit, bis eine KI in der Lage ist, ein Wasserzeichen so identisch in ein generiertes Bild einzufügen

Möglich, ich kann das auch nicht einschätzen. Könnte mir aber vorstellen, dass es technische Lösungen gibt, die zumindest sehr widerstandsfähig und flexibel genug sind, dass man Notfalls entsprechende Anpassungen vornehmen kann.

Ist auf jeden Fall schwieriger als ein Gesetz zu ignorieren. Das Internet ist doch voll von Dingen, die so nicht angeboten werden dürfen und trotz hoher Strafen interessiert es keinen.

 

[BlaBlam]

Prinzipiell finde ich eine derartige Regulierung ja nicht schlecht, aber: Wie soll das durchgesetzt werden, wenn der KI-Output irgendwann tatsächlich nicht mehr von der Realität zu unterscheiden ist?

 

[Nowareeng]

Wird Polaroid und super 8 ein comeback feiern 🤔 ...

Fälschungen/Fakes hat es immer gegeben , wird es immer geben . Wenns zu einfach geht gibts halt mehr davon. Das sagt viel über Menschheit aus.....darum brauchts mmn. regeln, in dem fall besten global. KI braucht ein wasserzeichen ,tief im quellcode , digitale inhalte (alle), unveränderbare metadaten welche beim copieren nicht entfernt werden können..... Mit Blockchain müsste dass doch möglich sein....

 

[wern001]

Es wäre vermutlich nur eine Frage der Zeit, bis eine KI in der Lage ist, ein Wasserzeichen so identisch in ein generiertes Bild einzufügen, dass es nicht mehr zu unterscheiden ist.

Ein Wasserzeichen oder Echtheit Zertifikat sollte doch kein Problem sein.
Dazu noch eine Strafe wie bei Falschgeld für den Ersteller und der Firma des KI-Werkzeugs und der Plattform die es verbreitet? Das wäre dann schon mal ein Schritt in die richtige Richtung.

 

[Botcruscher]

Deswegen sollst du es ja markieren, das ist der Plot an der Geschichte. Die Arbeitslast die durch die Markierung und Überprüfung entsteht wird mal wieder auf die Mittelschicht abgewälst.

Warum sollte der Ersteller eines Bildes in der Anonymität das tun? Was ist wenn er den Eintrag fälscht?

Wollen wir wieder Renterner jagen die über Habeck zuviel Wahrheit verbreiten?

 

[Xiaolong]

Darüber hinaus soll das Gesetz verhindern, dass Menschen anhand biometrischer Daten mithilfe künstlicher Intelligenz klassifiziert oder aufgrund dieser Daten von Leistungen ausgeschlossen werden. Ebenso soll verhindert werden, dass ihr potenzielles Risiko, eine Straftat zu begehen, automatisiert bewertet wird. Behörden bleibt es jedoch weiterhin erlaubt, aus Gründen der nationalen Sicherheit biometrische Echtzeitüberwachungen im öffentlichen Raum durchzuführen.

Achja, die nationale Sicherheit, so so...

 

[blauescabrio]

Aber das manuelle Bearbeiten von Fotos zur Erstellung von Deepfakes bleibt unsankioniert? Es lebe der Photo-Hand-Job!

 

[0x8100]

Bis das hier in DE kommt sind wieder Lichtjahre vergangen 🤣. Einfach nur peinlich was aus DE geworden ist.

seit wann wird zeit in lichtjahren gemessen? eher peinlich, wenn man sowas zum besten gibt...

 

[blauescabrio]

@0x8100 Seit wann wird keine Shift-Taste mehr benutzt?

 

[0x8100]

@blauescabrio seit okt. 2015 - einfach im profil zu sehen.

 

[blauescabrio]

PLONK

 

[lynx007]

Also in Deutschland ist der Entwurf 2035 fertig.

Nach dem 10. toten vermutlich. Sonst wird es eher 2050.


Ne im ernst. Find ich gut. Das internet wird mit AI-Müll geflutet und der unterschied ist immer schwerer Erkennbar. Will jetzt nicht allgmein gegen AI Hetzen. Aber das Missbrauchspotenzial ist gewaltig.

 

[Mondgesang]

Bis das hier in DE kommt sind wieder Lichtjahre vergangen 🤣

Lichtjahre sind eine Maßeinheit für Entfernungen, nicht für Zeit^^