© Fernando-Cortes / 123RF.com

Für EU-Kommissarin Ylva Johansson ist die geplante Chat-Kontrolle nichts anderes als ein Spamfilter oder eine Antivirensoftware. Kritiker sprechen hingegen von Horrorfiltern.

Die EU-Kommission will Host-Provider und Anbieter von Messenger-Diensten zur umfassenden Durchleuchtung der Internet-Kommunikation verpflichten. “Der heutige Vorschlag legt klare Verpflichtungen für Unternehmen fest, den Missbrauch von Kindern aufzudecken und zu melden, mit starken Sicherheitsvorkehrungen, die die Privatsphäre aller gewährleisten, einschließlich der Kinder”, sagte Innenkommissarin Ylva Johansson bei der Vorstellung der Pläne [1] Mitte Mai in Brüssel. Sie sprach von einer “harten, beispiellosen und bahnbrechenden” Gesetzgebung. Der komplette Vorschlag war kurz zuvor bekannt geworden.

Johansson begründete den Entwurf [2] mit der starken Zunahme von Missbrauchsmaterial in den vergangenen Jahren. So seien allein im vergangenen Jahr 85 Millionen Fotos und Videos mit Darstellungen des sexuellen Missbrauchs von Kindern (Child Sexual Abuse Material, CSAM) entdeckt worden. Die Filterung, die fünf große Firmen bislang freiwillig vornehmen, soll künftig verpflichtend werden. “Wir scheitern daran, Kinder heute zu schützen”, sagte die Kommissarin.

Der Vorschlag zielt darauf ab, missbrauchten Kindern zu helfen, sie zu schützen und zu retten. Solche Kinder sollten nicht durch die weitere Verbreitung des Materials immer wieder ihre schlimmsten Albträume durchleben müssen. Die Verordnung werde “frustrierten Ermittlern” dabei helfen, mehr Täter verfolgen zu können. An die Täter wiederum richtete Johansson die Warnung: “Wir kriegen euch.”

Streitpunkt Verschlüsselung

Johansson wies Bedenken zurück, wonach solche Verfahren die Privatsphäre aller Nutzer beschädigten. So habe die E-Privacy-Richtlinie schon immer die Durchsuchung von Kommunikation zur Erkennung von Spam und Malware erlaubt. Das solle nun auch mit der neuen Verordnung für Missbrauchsmaterial ermöglicht werden.

Gegner des Entwurfs warnen jedoch davor, dass damit die sichere Ende-zu-Ende-Verschlüsselung von Kommunikation ausgehebelt werden könne. Bei einer solchen Verschlüsselung haben Provider oder Messenger-Dienste bislang keinen Zugriff auf die Inhalte der Kommunikation. Daher könnten die Inhalte möglicherweise mit einer Art Upload-Filter (Client-Side-Scanning, CSS) auf dem Smartphone oder Computer des Benutzers analysiert und im Bedarfsfall an Behörden ausgeleitet werden.

“In dem Vorschlag geht es nicht um Verschlüsselung”, sagte Johansson. Es handele sich lediglich darum, Missbrauchsmaterial zu erkennen. Ziel sei nicht, die Kommunikation zu lesen, sondern nur, spezielle illegale Inhalte zu finden. Die Kommissarin verglich die dabei eingesetzte Technik mit der Suche nach einer Nadel im Heuhaufen: “Man braucht einen Magneten. Und der Magnet wird nur die Nadel sehen und nicht das Heu.”

“Zensursulas Horrorfilter”

Die Kommission verteidigte den Verzicht darauf, eine spezielle Suchtechnik im Entwurf vorzuschreiben oder zu erwähnen. “Dieses Gesetz ist technologieneutral”, sagte Johansson. Die Technik entwickle sich heute sehr schnell weiter. Es müsse eine Balance zwischen dem Schutz der Privatsphäre der Nutzer und dem Schutz der Kinder gefunden werden.

Nicht nur bei Bürgerrechtlern und Netzaktivisten, auch in den Reihen der Politik stößt der Vorschlag bereits auf heftige Kritik. “Mit dem Vorschlag zur Bekämpfung von Kindesmissbrauch öffnet die EU-Kommission die Tür zur digitalen Massenüberwachung”, schrieb der FDP-Abgeordnete Mario Brandenburg auf Twitter.

Der SPD-Europaabgeordnete Tiemo Wölken bezeichnete den Entwurf als Katastrophe und sprach von “Horrorfiltern”, die “wahre Wunder vollbringen” sollten: “Sie sollen bekanntes CSAM-Material entfernen, neue Inhalte finden und Grooming melden. Gleichzeitig sollen sie strikt limitiert werden, den Datenschutz und die Privatheit der Kommunikation beachten – und das alles ohne Fehler.”

Der SPD-Netzpolitiker Jens Zimmermann hält es für “unfassbar, was da aus Brüssel kommt”. Bei jeder Nutzung eines Messengers drohe in Zukunft die Überwachung der persönlichen Kommunikation. “Ohne Anlass, ohne Verdacht. Das gehört eher nach Russland als nach Europa. Zensursula lässt grüßen”, twitterte der Bundestagsabgeordnete – offenbar in Anspielung auf die frühere Debatte um Netzsperren, die die heutige Kommissionspräsidentin Ursula von der Leyen als damalige deutsche Familienministerin geplant hatte.

Bürgerrechtler schlugen bereits im Februar 2022 zehn Prinzipien vor, die eine rechtsstaatliche Durchsuchung nach Missbrauchsmaterial ermöglichen sollen. Demnach dürften solche Eingriffe keine Massenüberwachung darstellen, sondern nur gezielt und auf Grundlage eines individuellen Verdachts stattfinden. Zudem müsse die Verschlüsselung gewahrt bleiben. Wichtige Forderungen aus dem Katalog erfüllt der Kommissionsvorschlag jedoch nicht.

Kritik kam auch aus der Bundestagsfraktion der Grünen. “Durch das flächendeckende Scannen privater Kommunikation aller Bürgerinnen und Bürger mit Hilfe völlig unausgereifter algorithmischer Systeme durch Private und den anschließenden Abgleich mit umfassenden Datenbanken wird auch das Recht auf die anonyme und pseudonyme Nutzung des Internets offen infrage gestellt. Verschlüsselung wird bewusst umgangen”, sagten die Abgeordneten Konstantin von Notz und Tobias Bacherle [3]. Der Vorschlag lege “somit die Axt an das Recht auf Vertraulichkeit der privaten Kommunikation”.

Bundesinnenministerin Nancy Faeser (SPD) begrüßte zunächst den Vorschlag der EU-Kommission. “Mit klaren Rechtsgrundlagen, verbindlichen Meldewegen und einem neuen EU-Zentrum können wir Prävention und Strafverfolgung EU-weit sehr deutlich stärken”, sagte die Ministerin (Abbildung 1) und fügte hinzu: “Ich freue mich, dass wir in der Europäischen Union in diesem besonders wichtigen Thema vorangehen. Wir werden den Kommissionsentwurf jetzt genau prüfen und uns intensiv in die Verhandlungen im Rat einbringen.” Später änderte Faeser ihre Meinung grundlegend und sagte gegenüber der Bild am Sonntag, man dürfe nicht in verschlüsselte private Kommunikation eingreifen und damit viele Menschen treffen, die mit diesen Taten überhaupt nichts zu tun haben.

Abbildung 1: Innenministerin Nancy Faeser änderte ihre Meinung zur Chat-Kontrolle. Quelle: Peter Jülich

Auch im Bundesjustizministerium herrschen schwerwiegende Bedenken gegen die EU-Pläne zur Bekämpfung sexuellen Missbrauchs von Kindern. “Ich bin sehr skeptisch, was diesen neuen Entwurf angeht – sowohl rechtlich, aber gerade auch politisch”, sagte Justizminister Marco Buschmann (FDP) dem Nachrichtenmagazin “Der Spiegel” [4].