Quelle: Fraunhofer IOSB
Das Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung hat gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik ein Verfahren zur Erkennung KI-generierter Bilder entwickelt. Nach Angaben des Forschungsinstituts soll das Projekt “RealOrRender” nicht nur Deepfakes von echten Bildern unterscheiden, sondern auch nachvollziehbar machen, welche Merkmale zu der jeweiligen Bewertung geführt haben.
Das Bundesamt für Sicherheit in der Informationstechnik fördert das Vorhaben. Der Ansatz des IOSB kombiniert ein Verfahren des maschinellen Lernens mit einer Rekonstruktionsanalyse. Zunächst erstellt ein Bildgenerator eine Rekonstruktion des untersuchten Bildes. Anschließend bewertet ein Klassifizierungsmodell gemeinsam mit dem Rekonstruktionsfehler die Wahrscheinlichkeit, dass das Bild künstlich erzeugt wurde. Laut Fraunhofer erreicht das Verfahren je nach Datensatz eine Erkennungsgenauigkeit zwischen 85 und 91 Prozent.
Neben der Erkennung legt das Forschungsteam besonderen Wert auf die Nachvollziehbarkeit der Ergebnisse. Dazu kommen Verfahren der erklärbaren Künstlichen Intelligenz zum Einsatz, die sichtbar machen, welche Bildbereiche oder Strukturen die Entscheidung beeinflusst haben. Heatmaps markieren besonders relevante Bereiche eines Bildes, während segmentbasierte Analysen zusammenhängende Bildregionen auswerten und deren Beitrag zur Einstufung verdeutlichen. Auffällige Texturen oder charakteristische Frequenzmuster können dabei Hinweise auf synthetisch erzeugte Inhalte liefern.
Nach Angaben des Fraunhofer-Instituts schnitt der hybride Ansatz in Tests mit umfangreichen Bilddatensätzen besser ab als bisherige Verfahren. Die höhere Robustheit soll auch gegenüber künftigen, leistungsfähigeren Bildgeneratoren bestehen bleiben.
Die Forschungsergebnisse fließen in einen Demonstrator ein, den das Bundesamt für Sicherheit in der Informationstechnik zunächst für die Analyse mutmaßlicher Deepfakes einsetzen will. Nach dem Hochladen eines Bildes zeigt das System das Ergebnis der Analyse, erläutert die Gründe für die Einstufung und ergänzt die Bewertung um eine textliche Zusammenfassung. Die Projektpartner haben ihre Ergebnisse zudem in zwei Berichten veröffentlicht, die sich unter anderem an Sicherheits- und Justizbehörden, Medienhäuser, Betreiber sozialer Netzwerke und Bildagenturen richten.
