EU-Kommission: Pläne zur Chatkontrolle offiziell vorgestellt

Update Andreas Frischholz
230 Kommentare
EU-Kommission: Pläne zur Chatkontrolle offiziell vorgestellt
Bild: dimitrisvetsikas1969 | CC0 1.0

Voraussichtlich am Mittwoch will die EU-Kommission einen Gesetzentwurf für die Chat-Kontrolle vorstellen. Das Ziel: Auch verschlüsselte Messenger-Dienste sollen künftig die Inhalte der Nutzer scannen müssen, um Kinderpornographie zu entdecken. Die Pläne werden massiv kritisiert, zudem gelten diese als nicht zielführend.

Nun soll die Chatkontrolle tatsächlich kommen

Was die EU-Kommission dem aktuellen Stand nach plant, ist das sogenannte Client-Side-Scanning. Wie bereits bei den Plänen von Apple sollen Messenger- und E-Mail-Dienste auf dem Gerät der Nutzer scannen, ob die Nutzer kinderpornographisches Material versenden.

Bereits heute dürfen Internetdienste die Inhalte vollautomatisiert nach kinderpornographischem Material scannen. Das geschieht aber freiwillig, mit der neuen Verordnung wäre es Pflicht. Der entsprechende Gesetzentwurf wurde mehrfach verschoben, am Mittwoch soll er nun aber veröffentlicht werden.

Technisch sind zwei Instrumente vorgesehen, die eine vollautomatisierte Überwachung ermöglichen sollen. Der erste ist ein Vergleich der Hash-Werte. Beim Bildmaterial auf dem Smartphone wird überprüft, ob diese Werte mit den Hash-Werte von bekanntem kinderpornografischem Material übereinstimmen. Solche Datenbanken betreiben Kinderschutzorganisationen. Geplant ist zudem noch der Einsatz von KI-Verfahren, die kinderpornographisches Material automatisch erkennen sollen. Sofern das System anschlägt, sollen direkt Kontrollinstanzen oder Polizeibehörden informiert werden.

„Vollautomatisierte Überwachung in Echtzeit“

Die Kritik der Pläne ist massiv. Patrick Breyer, Abgeordneter für die Piraten im EU-Parlament, spricht von „vollautomatisierter Überwachung in Echtzeit“. Der Chaos Computer Club (CCC) nennt die Chatkontrolle ein „nie dagewesenes Überwachungswerkzeug“, ohne dass Erfolgsaussichten mit Blick auf das eigentliche Ziel bestehen.

Sowohl der Hash-Wert-Vergleich als auch die KI-Erkennung gelten als fehleranfällig und unausgereift. Das Problem: Kommt das Gesetz, würde es etwa sämtliche WhatsApp-Nachrichten betreffen, die EU-weit versendet werden. Selbst kleinste Fehlerquoten würden so zu einer Vielzahl an Falschmeldungen führen.

Zudem ist die Chatkontrolle ein tiefer Eingriff in die Grundrechte, weil die Maßnahme die Integrität des Geräts sowie die Verschlüsselung untergräbt. Es wäre ein Aufbrechen des Brief- und Fernmeldegeheimnisses. Was abhandenkommen würde, wäre das Grundvertrauen in das Gerät. Hinzu kommt: Derzeit ist unklar, wer die Datenbanken und Algorithmen definiert und kontrolliert.

Ein derart intransparentes System kann und wird nach seiner Einführung leicht erweitert werden. So ist schon heute absehbar, dass sich die Rechteverwertungsindustrie für das System ebenso brennend interessieren wird wie demokratiefeindliche Regierungen.

Chaos Computer Club

Zielführenderes Vorgehen im Kampf gegen Kinderpornographie

Was der CCC als zielführendere Maßnahme fordert, sind ausreichende Kapazitäten bei Polizeibehörden, um kinderpornographischen Material löschen zu lassen. Die Probleme verdeutlicht eine Recherche von NDR und Spiegel aus dem November. Demnach hatten Ermittler die Pädokriminellen-Plattform „Boystowm“ abgeschaltet und Betreiber festgenommen. Weiterhin im Netz verfügbar waren aber Fotos und Inhalte. Der Grund: Zugänglich war die Plattform über das Darknet, doch die Datenbestände waren so groß, dass die Betreiber diese bei normalen Hosting-Anbietern ablegten – allerdings verschlüsselt und unkenntlich gemacht. Während die jeweiligen Anbieter nicht wussten, welche Inhalte auf den Servern gespeichert sind, wurden die jeweiligen Links über die Darknet-Plattformen verteilt.

Viele dieser Links funktionierten laut der Recherche auch Monate nach dem Abschalten von Boystown noch und wurden weiter in entsprechenden Foren verbreitet. Die Inhalte selbst wurden von der Polizei aber nicht verfolgt, weil das BKA täterorientiert arbeitet. „Wir versuchen, die User zu bekommen. Wir sammeln keine Links ein", sagte Hans-Joachim Leon, der beim Bundeskriminalamt die Gruppe „Gewalt- und Sexualdelikte“ leitet, der Tagesschau.

NDR-Journalisten gelang es aber, eine große Anzahl an Inhalten mit geringem Aufwand löschen zu lassen. In einem der größten Foren für pädophile Inhalte sammelten Journalisten rund 80.000 Links, die sie den jeweiligen Hosting-Anbietern meldeten. Sowohl inländische als auch ausländische Anbieter entfernten die Inhalte daraufhin in einem Zeitraum von Stunden bis maximal zwei Tagen.

Auch Deutscher Kinderschutzbund lehnt Vorhaben ab

Als unnötig erachtet auch der Deutsche Kinderschutzbund die Eingriffe in die verschlüsselte Kommunikation. Private Nachrichten aus Messenger-Diensten oder E-Mails anlasslos zu scannen, wäre weder verhältnismäßig noch zielführend, sagt das Vorstandsmitglied Joachim Türk laut einem Bericht des Bayerischen Rundfunks. Denn entsprechendes Material werde nicht über Messenger-Dienste, sondern Foren und Plattformen geteilt. Diese müsse die EU-Kommission ins Visier nehmen.

Auch der CCC erklärt daher, dass die Chatkontrolle auf Vertreibungswege abziele, die Kriminelle ohnehin nicht verwenden. Einhergehend mit den technischen Schwächen sei der Einsatz daher nicht zu rechtfertigen. „Die Chatkontrolle ist als fundamental fehlgeleitete Technologie grundsätzlich abzulehnen“, heißt es in der Stellungnahme.

Was die EU-Kommission am Mittwoch vorstellt, ist ein Entwurf des Gesetzes. Über den müssten dann noch der Rat der EU sowie das EU-Parlament beraten und zustimmen.

Update

Wie erwartet, hatte die EU-Kommission heute den Entwurf präsentiert. Begründet wird das Vorhaben mit der steigenden Anzahl an Fällen, allein im Jahr 2021 wurden laut der EU weltweit 85 Millionen Bilder und Videos mit Darstellungen von sexuellem Kindesmissbrauch gemeldet. Um die Verbreitung zu unterbinden, will der Entwurf die Anbieter von Hosting- und Kommunikationsdiensten nun verstärkt in die Pflicht nehmen.

Diese sollen Material über sexuellen Kindesmissbrauch in ihren Diensten aufdecken, melden und entfernen. „Der heutige Vorschlag enthält klare Pflichten für Unternehmen, den Missbrauch von Kindern aufzudecken und zu melden, wobei der Schutz der Privatsphäre aller Beteiligten, insbesondere auch der Kinder, durch starke Schutzmechanismen gewährleistet wird“, erklärt die EU-Innenkommissarin Ylva Johansson. Um den Umgang mit den Online-Diensten zu koordinieren, ist eine neue EU-Zentralstelle angedacht.

Weitere Vorgaben sind ein Schutz vor Grooming. So sollen App-Stores sicherstellen, dass Kinder keine Apps herunterladen, über die Täter einfach Kontakt aufnehmen könnten. Ebenso sind Netzsperren angedacht, wenn das Löschen von entsprechenden Inhalten nicht möglich ist, weil diese etwa auf Servern außerhalb der EU liegen.

Technische Vorgaben sind vage

Die Mitglieder der Kommission verteidigen derweil den Entwurf. Bei diesem gehe es nicht um Verschlüsselung, Ende-zu-Ende-Lösungen würden nicht angetastet werden. Und indem nur nach Missbrauchsmaterial gesucht werde, sei die restliche Kommunikation ohnehin nicht betroffen. So verglich Johansson die Technik in der Presserunde mit Spam-Filtern und Anti-Viren-Software, berichtet Golem.

Wie konkret die Technik zum Entdecken aussehen soll, steht im Entwurf allerdings nicht. Dieser bleibt an dieser Stelle bewusst vage. So heißt es lediglich, Anbieter sollen Technologien einsetzen, die nach dem Stand der Technik am wenigstens in die Privatsphäre eingreifen und die geringste Fehlerquote aufweisen. Experten wie der ehemalige EU-Abgeordnete Felix Reda kritisieren dieses Vorgehen. Selbst wenn die Vorgaben nicht ausformuliert sind, ändere das nichts an der technischen Realität – es werden Inhalte auf den Geräten sämtlicher Nutzer gescannt, selbst wenn diese eigentlich sicher verschlüsselt sein sollen.

Nun müssen der Rat der EU sowie das EU-Parlament über den Entwurf beraten. Abgeordnete mit netzpolitischem Fokus reagierten bereits, so bezeichnet Tiemo Wölken von der SPD den Entwurf als „Katastrophe“. Patrick Breyer von den Piraten kritisierte das Vorhaben schon im Vorfeld deutlich.

25 Jahre ComputerBase!
Im Podcast erinnern sich Frank, Steffen und Jan daran, wie im Jahr 1999 alles begann.