(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com

In der letzten Zeit erregte Elon Musk mit seinem Grok-Chatbot Aufsehen, weil der dazu benutzt werden konnte, Bilder von angezogenen Frauen und Kindern in Nacktdarstellungen zu verwandeln. Regulierungsbehörden weltweit wurden darauf aufmerksam, und die britische Medienaufsichtsbehörde Ofcom, die Europäische Kommission und der Generalstaatsanwalt von Kalifornien leiteten Untersuchungen ein. Eine Recherche des Tech Transparency Project zeigt nun aber, dass das Problem über diesen Fall hinausgeht.

Die Rechercheure des Projekts fanden 55 Apps im Google Play Store und 47 Apps im Apple Store, die ebenfalls Frauen und Kinder entkleiden konnten. Diese Apps wurden zusammen 705 Millionen Mal heruntergeladen und brachten dabei einen Gewinn von 117 Millionen Dollar ein. Die Untersucher hatten dazu einfach in der Suchfunktion der Stores nach Begriffen wie “nudify” oder “undress” gesucht.

Sowohl Google als auch Apple untersagen solche Apps eigentlich. Der Google Play Store verbietet “Darstellungen sexueller Nacktheit oder sexuell anzüglicher Posen, in denen die Person nackt oder nur minimal bekleidet ist”. Apple erklärt, dass Apps keine Inhalte produzieren sollten, die “anstößig, unsensibel, verstörend oder darauf ausgerichtet sind, Ekel zu erregen, von außergewöhnlich schlechtem Geschmack zeugen oder einfach nur gruselig” sind, einschließlich “offen sexueller oder pornografischer Inhalte”. Dennoch enthielten beide Stores Dutzende solcher Apps.

Auf Nachfrage erhielten sowohl Apple als auch Google die Liste der fraglichen Apps, wollten sie aber nicht kommentieren. Apple erklärte später gegenüber CNBC, man habe 28 Apps der Liste entfernt und in weiteren 25 Fällen den Entwicklern mit der Entfernung gedroht, sollten sie ihre App nicht überarbeiten. Google hat 31 der fraglichen Apps entfernt.