© Computec Media GmbH

Agenten kleben eine Wanze hinter die Abdeckung der Steckdose, KI-Wissenschaftler tun Ähnliches – beide aus demselben Grund: Sie erführen anders nicht, was im Verborgenen passiert.

Sherlock Holmes hat einen Verdacht. Aber der Delinquent gibt nicht freiwillig preis, was in jener Nacht geschah – das ist sein Geheimnis. Dem Detektiv bleiben nicht mehr als Vermutungen. Was kann er tun? Den Verdächtigen mit einer Fangfrage überrumpeln? Nach ein paar Hautschuppen, Haaren oder anderen Spuren suchen, die unscheinbar, aber verräterisch sein könnten?

Vor einem ganz ähnlichen Problem stehen KI-Forscher. Einer von ihnen, Professor Matthias Bethge, hat kürzlich auf der 50. Jahrestagung der Gesellschaft für Informatik davon erzählt. Die Wissenschaftler sehen, was passiert, zumindest äußerlich: Zum Beispiel nennt ein Bilderkennungssystem, das bereits Hunderte Katzenfotos richtig bestimmt hat, plötzlich eine Mieze einen Elefanten. Von da an ist alles Spekulation. Nicht nur, dass niemand weiß, warum – es ist auch prinzipiell unergründlich, welche einzelnen Neuronen in einem riesigen Netz wann und weshalb kippen mussten, um eine Kettenreaktion auszulösen, an deren Ende die eklatante Fehlklassifikation steht.

Eine Verwechslung, die so nur Computern unterlaufen kann; selbst ein Kleinkind hätte mühelos die Katze erkannt. Mehr noch: Oft liegen zwischen einem richtig und einem grob falsch bestimmten Bild so minimale Unterschiede, dass sie keinem Menschen auffallen würden. Schon 2014 fand beispielsweise eine Gruppe aus Forschern von Google und der New York University, dass schon ein nicht wahrnehmbares, leichtes Bildrauschen ausreichen konnte, um aus einem zunächst richtig erkannten Panda-Foto hernach das eines vermeintlichen Gibbons zu machen. Ein paar kleine Sticker verkehrten ein Stoppschild in sein Gegenteil, ein kleiner Farbklecks machte in den Augen der Maschine aus einer Banane einen Toaster. Warum?

Offenbar funktioniert maschinelles Sehen, obwohl es sich mit neuronalen Netzen scheinbar an der Biologie orientiert, im Rechner grundlegend anders als bei Mensch und Tier. Nur weiß man weder bei Mensch noch Maschine so genau, wie. Von der eigenen Erfindung kennt man nur die prinzipielle Funktionsweise, die sich aber wegen ihrer Komplexität im konkreten Fall nicht mehr in alle Einzelheiten auflösen lässt. Also ersannen die Forscher eine List, um die eigene Kopfgeburt zu übertölpeln: Sie stellten der hausgemachten Intelligenz eine Falle, indem sie eine Katzensilhouette mit dem Muster und der Farbe von Elefantenhaut füllten. Und wieder erkannte die KI einen Elefanten. Offensichtlich bewertet das neuronale Netz hier also die Textur stärker als den Umriss – zumindest eine erste Spur.

Dieses Experiment habe ich im Hinterkopf, wenn ich von Sorgen lese, dass übermorgen eine mit Bewusstsein begabte, superintelligente Maschine alle Menschen aus ihren Jobs drängt. Es gibt gute Gründe für die Annahme, dass das niemals passiert. Und selbst ein Experte wie Professor Ralf Otte, der explizit zu Fragen der Modellierung des Bewusstseins mit mathematischen und technischen Methoden forscht, meint auf die Frage, wie lange es noch dauern wird: “Bis wir eine Maschine haben, die dem Menschen ebenbürtig ist? Ich würde sagen: zwei- oder dreihundert Jahre.”

Jens-Christoph Brendel

Stellv. Chefredakteur