ChatGPT und Privatsphäre: Deutsche Datenschützer starten Verfahren gegen OpenAI

Nun starten auch deutsche Datenschützer ein Verfahren gegen den ChatGPT-Betreiber OpenAI. Im Vergleich zu Italien belässt man es zunächst aber bei Fragebögen, die die Firma beantworten soll, berichtet der Tagesspiegel. Eine Blockade ist – zumindest vorerst – noch nicht geplant.

Koordiniert wird das Vorgehen durch die KI-Task-Force der Bundesländer. Dieter Kugelmann, Landesdatenschutz­beauftragter in Rheinland-Pfalz, leitet die Runde. Im Tagesspiegel verkündete er, dass nun auch die Landesdatenschutz­behörden ein Verwaltungs­verfahren eröffnet haben. Zunächst muss OpenAI aber nur einen Fragebogen beantworten. Gemeinsam haben die Landesdatenschutz­behörden ein Musterschreiben aufgesetzt, das noch in dieser Woche von den meisten Behörden versendet werden soll, so Kugelmann.

OpenAI muss Datengrundlage benennen

Was die Datenschützer vor allem interessiert, sind die Daten, die OpenAI für das Training der Modelle verwendet. „Wenn personenbezogene Daten verwendet werden, auch als Trainingsdaten für die KI, dann bedarf es einer Rechtsgrundlage“, so Kugelmann. Fehlt diese, sei der Betrieb nicht möglich. Dann sei auch ein Verbot wie in Italien denkbar.

Neben der Rechtsgrundlage fordern die Datenschützer zudem mehr Kontrolle. Für einen rechtskonformen Betrieb müsste OpenAI den Chatbot präziser steuern, so Kugelmann. Das Vorgehen italienischer Datenschützer bezeichnet er aber auch als „riskant und rein rechtlich auf wackeligen Beinen“.

Spannend wird, wie OpenAI reagiert. Beim Start von GPT-4 war das Unternehmen nicht mehr bereit, die Zusammensetzung der Trainingsdaten zu veröffentlichen. Im Interview mit The Verge bezeichnete OpenAIs Chefwissenschaftler Ilya Sutskever diese sogar als Technologie, was bedeutet: Der Datensatz, mit dem die Sprachmodelle trainiert werden, ist Teil des Geschäftsgeheimnisses. In der KI-Branche erntete OpenAI für diesen neuen, wenig offenen Ansatz bereits deutliche Kritik.

Datenschützer in ganz Europa aktiv

Den Auftakt für die Datenschutzverfahren, mit denen OpenAI in Europa konfrontiert ist, lieferte Italien. Neben den deutschen Datenschützern sind zudem noch irische und französische Datenschutzbehörden tätig, der europäische Datenschutz­ausschuss will zudem eine Task-Force einrichten, um das Vorgehen zu koordinieren.

In Italien ist ChatGPT weiterhin blockiert. Zu den Vorwürfen zählen eine unrechtmäßige Verarbeitung personenbezogener Daten sowie Mängel beim Jugendschutz. Bis zum 30. April hat OpenAI nun Zeit, die Vorwürfe auszuräumen. Sofern das gelingt, könnte ChatGPT dann wieder eine Erlaubnis erhalten, sagte Pasquale Stanzione, der Vorsitzende der italienischen Datenschutzbehörde in einem Interview mit der Corriere della Sera. Nötig seien dafür „angemessene Maßnahmen“; er denke aber, OpenAI sei dazu bereit.

Wenn das Unternehmen die Vorwürfe aber nicht ausräumen kann, könnte sich die Entscheidung auf weitere Länder auswirken. Dann wäre sogar ein Verbot in der kompletten EU denkbar. Hinzu könnten Geldstrafen und Löschvorgaben für Trainingsdatensätze und Modelle kommen, die personenbezogene Daten ohne adäquate Rechtsgrundlage verwenden.