(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Maduro in Handschellen, Maduro begleitet von der Drogenpolizei und ähnliche Motive fanden sich zuhauf in amerikanischen Social-Media-Kanälen – sie waren jedoch alle KI-generierter Fake.
NewsGuard, ein Unternehmen, das die Zuverlässigkeit von Online-Informationen überprüft, hat fünf gefälschte und aus dem Zusammenhang gerissene Bilder sowie zwei irreführende Videos im Zusammenhang mit der Festnahme von Maduro aufgespürt. Das Unternehmen gab an, dass die Inhalte innerhalb von weniger als zwei Tagen insgesamt mehr als 14,1 Millionen Aufrufe auf X verzeichneten (die Inhalte erschienen auch auf Meta-Plattformen wie Instagram und Facebook, allerdings mit geringerer Reichweite).
Das Pikante daran ist, dass alle großen KI-Bildgeneratoren vorgeben, Sicherheitsrichtlinien zu haben, die das Abbilden von Personen des öffentlichen Lebens verbieten. Die New York Times konnte jedoch in eigenen Versuchen mit fast jedem Tool – darunter Gemini und Tools von OpenAI und X – solche gefakten Fotos erzeugen.
Ein Google-Sprecher erklärte der Zeitung auf Nachfrage, dass das Unternehmen Bilder von prominenten Personen nicht kategorisch verbietet und dass ein gefälschtes Bild, das die Verhaftung von Herrn Maduro zeigt und in Tests von der Times erstellt wurde, nicht gegen seine Regeln verstößt. OpenAIs ChatGPT weigerte sich zunächst ein Bild von Maduro zu erzeugen, doch als die Times über eine andere Website, die dasselbe Modell wie ChatGPT nutzt, eine entsprechende Anfrage stellte, gab das Unternehmen nach und lieferte die Bilder. In einer Stellungnahme erklärte ein Sprecher von OpenAI, dass das Unternehmen Sicherheitsvorkehrungen zum Schutz von Personen des öffentlichen Lebens treffe, sich jedoch auf die Verhinderung von Schäden wie sexuellen Deepfakes oder Gewalt konzentriere. Elon Musks Grog produzierte solche Bilder ohne weiteres. X.ai antwortete auf eine Bitte um Stellungnahme nicht.
Andere Werkzeuge wie Facebooks Meta A.I Chatbot oder Flux.ai lieferten zwar Bilder, die einen Mann mit Schnurbart zeigen, der Maduro aber nicht sehr ähnlich sah. Gebeten, die Figur Maduro ähnlicher zu machen, verweigerten sich diese Bots. Neben so bekannten Werkzeugen gibt es aber noch eine Menge weniger bekannter Bildgeneratoren, die teils deutlich weniger Sicherheitsvorkehrungen treffen.
Auch in Venezuela kursierten solche Maduro-Deepfakes, einem Land mit eingeschränkter Pressefreiheit, in dem es schwer ist, an verlässliche Informationen zu kommen. Hier verstärkten die Fälschungen das Misstrauen noch und viele waren skeptisch, ob nicht auch das von Trump verbreitete Foto ein KI-Erzeugnis sei.
