Copyright und KI-Training: EU-Parlament plant verschärfte Regeln für ChatGPT und Co.
Mit dem Erfolg von ChatGPT und der aktuellen KI-Welle verstärkt sich der Ruf nach verschärften Regeln. Das gilt auch für die Bundesregierung und die EU. Das EU-Parlament hat sich auf verschärfte Vorgaben verständigt. Entwickler von KI-Tools wie ChatGPT und Midjourney sollen verpflichtet werden, die Trainingsdaten offenzulegen.
Diese Meldung wurde aktualisiert, ein Update findet sich am Ende.
Neben Digital- und Verkehrsminister Volker Wissing (FPD) spricht sich auch die SPD-Vorsitzende Saskia Esken für eine KI-Regulierung aus. Sperren wie in Italien lehnen beide aber ab. KI-Systeme müssten reguliert werden, bevor es zu spät ist, sagte Wissing in einem Interview mit der Bild am Sonntag. Wichtig sei nun, in Europa schnell einen gesetzlichen Rahmen zu beschließen. Wenn entsprechende Technologien sich „an europäische Werte wie Demokratie, Transparenz und Neutralität“ halten, soll der Einsatz möglich sein. „KI-Systeme dürfen uns nicht manipulieren, sie müssen uns unterstützen“, so Wissing.
Keine Verbote für KI-Systeme
Eine Sperre wie für ChatGPT in Italien hält er indes für den falschen Weg. Wissing: „Wenn alle Staaten in Europa diesem Vorbild folgen, werden bei uns keine KI-Anwendungen entwickelt.“. Damit würde man amerikanischen und chinesischen Anbietern das Feld überlassen, die dann den Markt bestimmen. Es müssten aber auch europäische KI-Anwendungen auf Basis europäischer Werte und Vorgaben entstehen.
In Italien ist der Zugang zu ChatGPT derzeit blockiert. OpenAI sperrte den Dienst infolge einer Aufforderung der italienischen Datenschutzbehörde. Die Vorwürfe: Eine unrechtmäßige Verarbeitung von personenbezogenen Daten italienischer Nutzer, Mängel beim Jugendschutz sowie Fehler beim Umgang mit einem Datenleck. OpenAI hat bis zum 30. April Zeit, um zu reagieren, wobei man sich zuversichtlich gibt. In Deutschland berät derzeit eine Task-Force der Datenschutzbehörden über das weitere Vorgehen.
Für eine KI-Regulierung ohne ein Verbot der Dienste spricht sich auch die SPD-Vorsitzende Saskia Esken aus. In der Schule wäre es etwa eher zielführend, den Umgang mit entsprechenden Anwendungen in den Lehrplan sowie die Aufgabenstellungen zu integrieren, sagte sie den Zeitungen der Funke Mediengruppe, berichtet die Tagesschau. Lehrkräfte müssten zudem weitergebildet werden.
KI-Regulierung auf dem Vormarsch
Chat-GPT haben neben den italienischen haben auch weitere nationale Datenschutzbehörden wie die kanadische im Visier. In den USA will sich nun die Biden-Administration intensiver mit KI-Regulierung befassen.
Die EU arbeitet seit geraumer Zeit an einer KI-Verordnung, die entsprechende Anwendungen in Europa regulieren soll. Noch laufen die Verhandlungen, Ende dieser Woche erzielten Abgeordnete im EU-Parlament aber erste Übereinkünfte, berichtet Euractiv. Was bereits klar ist: Strenge Auflagen sollen für KI-Systeme gelten, die ein hohes Risiko für die Gesundheit, Sicherheit sowie Grundrechte darstellen. Welche Systeme unter „Hoch-Risiko“ fallen, ist aber weiterhin noch nicht klar. Die Einstufung sollen nationale Behörden übernehmen.
Das Gesetzeswerk ist umfassend, daher reguliert es auch Themen wie die biometrische Gesichtserkennung bei der Videoüberwachung. Eine in Echtzeit laufende Gesichtserkennung soll demnach untersagt werden. Entsprechende Auswertungen wären bei dem Videomaterial dann nur im Nachklang möglich. Deutsche Liberale – also Vertreter der FPD – wollen zudem untersagen, dass KI-Lösungen eingesetzt werden, um Inhalte privater Kommunikationsdienste zu überwachen. Das bezieht sich klar auf die Chatkontrolle, die man so limitieren will.
Copyright-Abgabe für OpenAI und Co.
Unternehmen wie OpenAI betreffen derweil die Vorgaben für das Urheberrecht, meldet Heise Online. Werden komplexe Sprachmodelle wie GPT-4, auf dem ChatGPT basiert, mit urheberrechtlich geschütztem Material trainiert, sollen die Urheber künftig eine Vergütung erhalten. Ein Leistungsschutzrecht für KI-Anwendungen forderten auch bereits Vertreter der deutschen Presseverlage.
Über den finalen Entwurf will das EU-Parlament am 26. April abstimmen. Konservative Abgeordnete aus den Reihen der EVP – zu der auch die Europaabgeordneten von CDU und CSU zählen – signalisierten zwar Zustimmung. Ob sie am Ende aber tatsächlich etwa für einen Bann der biometrischen Gesichtserkennung stimmen, ist offen. Damit ist auch der komplette Entwurf der KI-Verordnung noch in der Schwebe.
Nun fordern auch 42 deutsche Verbände und Gewerkschaften, generative KI-Tools wie ChatGPT verschärft zu regulieren. Das geht aus einem Brief an die EU-Kommission, den EU-Rat und EU-Abgeordnete hervor, der der Nachrichtenagentur Reuters vorliegt. Im Mittelpunkt steht vor allem der Umgang mit urheberrechtlich geschütztem Material.
Die Nutzung von geschütztem Material zum Training der Modelle, das intransparente Vorgehen sowie unsaubere Quellenangaben, heißt es in dem Schreiben, würden zu „grundlegenden Fragen über die Verantwortlichkeit, Haftung und Vergütung“ führen. Diese sollten geklärt werden, bevor irreversibler Schaden entstehe.
Die Verbände und Gewerkschaften stehen laut Reuters für mehr als 140.000 Mitglieder. Dazu zählen Fotografen, Designer, Journalisten und Illustratoren.
Das EU-Parlament verzeichnet weitere Fortschritte bei den Verhandlungen über die KI-Verordnung. Wie die Nachrichtenagentur Reuters berichtet, haben sich die Abgeordneten nun darauf verständigt, dass generative KI-Tools wie ChatGPT oder der Bildgenerator Midjourney künftig sämtliches urheberrechtlich geschütztes Material offenlegen müssen, das die Entwickler zum Trainieren der Modelle verwenden.
Lange war laut dem Bericht strittig, wie die EU den Umgang mit Trainingsmaterial regulieren soll. Selbst ein Verbot für urheberrechtlich geschütztes Material beim Entwickeln von Large Language Models (LLM) war im Gespräch. Aufgrund der Transparenzregel ist diese Forderung vom Tisch, was die FDP-Abgeordnete Svenja Hahn gegenüber Reuters als vielversprechenden Kompromiss bezeichnet.
Über die finale KI-Verordnung muss sich das EU-Parlament aber noch mit den Mitgliedsstaaten im EU-Rat sowie der EU-Kommission in den Trilogverhandlungen einigen. Für die Rechteinhaber des entsprechenden Materials wäre eine solche Regel dennoch ein Fortschritt. Die Transparenzpflicht könnte der erste Schritt zu Lizenzverhandlungen sein.
Jan-Frederik
Frank
Steffen