Das Fraunhofer-Institut für Sichere Informationstechnologie (SIT) hat eine Machbarkeitsstudie veröffentlicht, die zeigt wie Kinder und Heranwachsende vor Übergriffen im Netz und Fehlern beim Umgang mit digitalen Medien geschützt werden können. Durch künstliche Intelligenz (KI) und Multimediaforensik ließen sich viele Delikte erkennen oder sogar unterbinden, lautet das Ergebnis.

Wie das SIT mitteilt, stieg laut polizeilicher Kriminalstatistik die Zahl der Delikte im Bereich kinder- und jugendpornografischer Schriften im Pandemiejahr 2020 um mehr als 50 Prozent an. Und auch das Cybergrooming, die gezielte sexuelle und manipulative Kontaktaufnahme zu Kindern in Chats, Foren oder Online-Spielen habe während der Pandemie enorme Ausmaße angenommen, meldet Johannes-Wilhelm Rörig, der unabhängige Beauftragte der Bundesregierung für Fragen des sexuellen Kindesmissbrauchs (UBSKM). Zudem sei das Versenden von Nacktfotos über Messenger Dienste, Sexting, auch unter Heranwachsenden verbreitet, berichtet das SIT.

In der Machbarkeitsstudie haben die Forscher unterschiedliche technische Verfahren der automatischen Bilderkennung geprüft, um unbedachtes Sexting zu verhindern, teilt das SIT mit. Unter anderem basierten die Verfahren auf einem Deep-Learning-Netz. Mit dieser Art der KI könne ein Nacktbild mit hoher Genauigkeit auf Smartphones erkannt werden. Jugendliche könnten dann technisch davon abgehalten werden, Nacktbilder zu erstellen und zu verbreiten. Studienleiter Professor Martin Steinebach sagte: “Das in dieser Studie vorgestellte technische Verfahren zur Erkennung von Nacktbildern basiert auf einem neuronalen Netz. Da dieses lokal auf dem Smartphone ausgeführt wird, schützt es, ohne die Privatsphäre durch die Weiterleitung von Bildern an einen Server zu gefährden.”

Gegen Cybergrooming helfen dagegen textforensische Profiling-Technologien, mit denen sich das Alter von Chat-Teilnehmern einschätzen lässt. Die Technologien sollen dann erkennen, ob das angegebene Alter mit dem Schreibstil des Teilnehmenden zusammenpasst. Bei Auffälligkeiten könnten die Moderation des Forums benachrichtigt werden. Auch bereits bekannte auffällig gewordene und geblockte Personen, die mit einem neuen Profil in Foren unterwegs seien, ließen sich mit diesen textforensische Methoden mit einer gewissen Wahrscheinlichkeit erkennen.

Die Studie war vom Hessischen Ministeriums des Innern und für Sport im Jahr 2018 beauftragt worden und wurde nun der Öffentlichkeit frei zugänglich gemacht, so das SIT.