© Mike Fouque / 123RF.com

Die Fraktionen des Europaparlaments haben sich auf eine Position zum Schutz vor Kindesmissbrauch geeinigt. Statt einer Chatkontrolle gibt es nun eine Alterskontrolle für Pornoanbieter und App-Stores.

Das Europaparlament will die verdachtsunabhängige Massenüberwachung von Kommunikation durch andere Maßnahmen zum Schutz vor sexuellem Kindesmissbrauch ersetzen. Das sehen Kompromissvorschläge vor, auf die sich die verschiedenen Fraktionen in teils kontroversen Verhandlungen verständigt haben und die Ende Oktober 2023 die Verhandlungsführer des federführenden Innenausschusses (LIBE) vorstellten.

Kernpunkt der Einigung ist der Vorschlag, wonach die umstrittenen Aufdeckungsanordnungen nur gezielt bei begrenzten Personengruppen oder Einzelpersonen zum Einsatz kommen sollen, die direkt oder entfernt in Verbindung mit Missbrauchsmaterial stehen.

Daneben hält ein von Netzpolitik.org veröffentlichtes Kompromisspapier [1] fest, dass Ende-zu-Ende-verschlüsselte interpersonelle Kommunikation nicht Gegenstand von Aufdeckungsanordnungen sein darf. Demnach dürften Methoden wie das Client-Side-Scanning nicht zum Zug kommen. Die Provider sollen entscheiden, mit welchen Techniken sie Missbrauchsmaterial erkennen wollen.

Massenüberwachung als rote Linie

Der Innenausschuss soll noch im November 2023 über die Vorschläge abstimmen und damit auch das Mandat für die Trilog-Verhandlungen mit den Mitgliedstaaten und der EU-Kommission erhalten. Die Abgeordneten appellierten an den Ministerrat, sich in den festgefahrenen Verhandlungen ebenfalls zu einigen und sich am Vorschlag des Parlaments zu orientieren.

Auf die Frage, ob es in den Verhandlungen mit den Mitgliedstaaten rote Linien für das Parlament gebe, sagte der zuständige Verhandlungsführer Javier Zarzalejos von der konservativen EVP-Fraktion: “Wir haben vollen Respekt vor den internen Debatten, die sie über die sogenannte Massenüberwachung führen. Das ist nicht nur eine rote Linie für uns. Es ist eine rote Linie im Recht der Europäischen Union.”

Freiwilliges Scannen untersagt

Der vorgesehene Verzicht auf das anlasslose Scannen von Kommunikation auf Missbrauchsmaterial betrifft jedoch nicht nur verschlüsselte Kommunikation. Auch das freiwillige Scannen auf Basis einer Interimsverordnung soll nach einer Übergangszeit von neun Monaten der Vergangenheit angehören. Ein geplantes neues EU-Zentrum für Kinderschutz würde die Aufgabe erhalten, proaktiv nach bekanntem Missbrauchsmaterial auf öffentlichen Plattformen zu suchen. Das gilt nach Angaben des Europaabgeordneten Patrick Breyer (Abbildung 1) auch für das Darknet.

Abbildung 1: Feiert die Einigung als Erfolg: Patrick Breyer von den Piraten. Quelle: Patrick Breyer

Ebenfalls ausgeschlossen werden soll die automatisierte Suche nach Anbahnungsversuchen mit Minderjährigen zu Missbrauchszwecken, das sogenannte Grooming. Jedoch könnte dieser Verzicht für öffentliche Chats, die sich direkt an Kinder wenden und bei denen ein hohes Grooming-Risiko besteht, zu aufwendigen Maßnahmen führen. In Artikel 4 fordern die Abgeordneten von entsprechenden Anbietern die “menschliche Moderation von öffentlich zugänglichen Chats, auf der Grundlage von Stichprobenkontrollen, und die Moderation von öffentlich zugänglichen, spezifischen Kanälen mit hohem Risiko für sexuellen Missbrauch”.

Der Piraten-Politiker Breyer verteidigte diesen Vorschlag in einem Gespräch mit Journalisten. Diese Moderation dürfe nicht eine künstliche Intelligenz übernehmen, sie sei die “Alternative zu fehleranfälligen Algorithmen”. Zur Frage der KI-Nutzung bei der Moderation von Chatgruppen stellte Breyer klar: “Der Text verbietet nicht den Einsatz von KI-Systemen in Chatgruppen, es bleibt bei der bisherigen Rechtslage. Wegen der Verordnung muss also keine KI abgeschaltet werden. Wenn die KI das Grooming-Risiko erfolgreich eindämmt, soll eine Moderation nicht vorgeschrieben werden (nur bei hohem Grooming-Risiko auf bestimmten Kanälen). Es ist also keine Massenmoderation vorgesehen.”

Nacktaufnahmen vor Versenden bestätigen

Doch diese Moderation ist nur eine von zahlreichen Maßnahmen, mit denen Plattformen das Risiko für den sexuellen Missbrauch von Kindern reduzieren sollen. Bestimmte Standardeinstellungen sollen es deutlich schwieriger machen, mit Kindern und Jugendlichen auf Plattformen unmittelbar in Kontakt zu treten. Daneben soll der Austausch von Inhalten und Kontaktdaten erschwert werden.

Zudem soll es optional oder standardmäßig die Möglichkeit geben, Inhalte vor dem Versenden auf Nacktheit zu prüfen, damit der Nutzer eine ausdrückliche Zustimmung zum Senden geben kann. Diese Überprüfung solle jedoch nur geräteseitig erfolgen und vollständig der Kontrolle des Nutzers unterliegen.

Alterskontrolle bei bestimmten Apps

Die ebenfalls umstrittene Alterskontrolle für die Nutzung von Kommunikationsdiensten soll weitgehend entfallen. Aus der Verpflichtung wird laut Artikel 4 Nummer 2 des Kompromissvorschlags eine freiwillige Maßnahme. Dabei unterliegen die Anbieter einer Reihe von Vorgaben: So sollen sie außer dem Alter des Nutzers keine weiteren Daten erheben und dazu möglichst ein Zero-Knowledge-Protokoll verwenden. Biometrische Verfahren sind ausdrücklich untersagt.

Besondere Auflagen gelten nach Artikel 6 jedoch für die großen App-Stores von Google und Apple. Dies gilt vor allem für den Fall, dass ein App-Anbieter die Nutzung seines Programms durch Kinder ausdrücklich untersagt. In der Praxis bedeutet das: Die App-Stores müssen mit “vernünftigen Maßnahmen” sicherstellen, dass Kinder solche Apps nur mit Zustimmung der Eltern installieren, wenn überhaupt. Laut Breyer orientiert sich der Vorschlag dabei an den entsprechenden Vorgaben der EU-Datenschutzgrundverordnung (DSGVO).

Löschen statt Netzsperren

Den Vorschlag der EU-Kommission für die Einrichtung von Netzsperren lehnten die Abgeordneten ab. Stattdessen soll es eine Löschpflicht für illegales Missbrauchsmaterial geben, die auch für die Strafverfolger gilt. Laut Breyer ist das eine Reaktion auf den Fall Boystown, bei dem das Bundeskriminalamt zwar die Plattform vom Netz nahm, das dort verlinkte Material jedoch nicht löschen ließ.

Neue Vorgaben wollen die Abgeordneten für Pornoanbieter durchsetzen. Die verpflichtet Artikel 4a des Vorschlags unter anderem zu einer Alterskontrolle der Nutzer. Darüber hinaus sollen sie einfache Meldemöglichkeiten für Missbrauchsmaterial anbieten, eine Moderation von Inhalten umsetzen und selbst aktiv nach Missbrauchsmaterial suchen.

Insgesamt ist es den Abgeordneten gelungen, die umstrittensten Punkte aus dem Kommissionsvorschlag herauszunehmen. Stattdessen soll der Kinderschutz mit anderen Maßnahmen besser umgesetzt werden. Die können jedoch für bestimmte Anbieter einen hohen Aufwand bedeuten. Plattformen wie Faceit durchsuchen schon seit Jahren mithilfe von KI-Systemen ihre Chatgruppen. Wie die Moderation von Millionen Nachrichten durch Menschen funktionieren soll, ist unklar.

Darüber hinaus bleibt offen, welche Vorschläge das Parlament in den Trilogverhandlungen durchsetzen kann. Das liegt auch daran, dass sich die Mitgliedstaaten bislang noch nicht auf eine gemeinsame Position verständigen konnten. Diese Tatsache führt auch dazu, dass der Zeitplan für einen Beschluss der Verordnung vor den Europawahlen im Juni 2024 kaum noch zu halten sein dürfte. Nach Einschätzung Breyers klappt das selbst dann nicht mehr, wenn sich die EU-Staaten noch dieses Jahr verständigen sollten. Er forderte deshalb die Öffentlichkeit auf, ihren Druck gegen die Chatkontrolle bis zum Abschluss der Verhandlungen nicht zu verringern. (uba)