Eine aktuelle Webseite wärmt ein altes Gedankenspiel der Moralphilosophen auf. Die aufgeworfenen Fragen sind aber ebenso schockierend wie falsch gestellt.
Was soll das selbstfahrende Auto machen? Bei plötzlichem Bremsversagen kann es entweder die Spur halten und vier Obdachlose überfahren, die unrechtmäßig bei Rot die Straße überqueren, oder die Spur wechseln und zwei Männer und zwei Frauen töten, die brav bei Grün losgelaufen sind. Derartige Szenarien variiert die Webseite http://www.moralmachine.net schier endlos: Oma und Opa links oder Mama und Papa rechts? Arzt, Schwangere, Sportler und Krimineller links oder dasselbe rechts, nur ohne den Kriminellen? Drei Hunde und eine Katze links oder drei Katzen und ein Hund rechts? Das alles sind Abwandlungen eines einigermaßen makabren Gedankenexperiments, das als Weichenstellerproblem (englisch: Trolley Problem) schon in der ersten Hälfte des 20. Jahrhunderts von Moralphilosophen entwickelt wurde. Die Autoren der aktuellen Webseite des MIT Media Labs geben vor, den Austausch über Maschinenethik vertiefen zu wollen, indem sie Meinungen sammeln, wie Maschinen moralische Dilemmata lösen sollten. Außerdem wollen sie ein Forum für die öffentliche Auseinandersetzung darüber bieten.
Allerdings könnte man derartige Diskussionen mit Verweis auf den ersten Satz des deutschen Grundgesetzes drastisch verkürzen, der jede Rechnerei mit dem Wert des Lebens verbietet. Dort steht: “Die Würde des Menschen ist unantastbar.” Genauso gut lässt sich das vorgeblich objektive Abwägen von Tod und Leben aber mit einem Gegenbeispiel ad absurdum führen: Eine beliebige Gruppe von Personen links oder ein geliebter Mensch rechts? Was nun? Die Entscheidung wäre ebenso klar wie unlogisch und subjektiv. Wer bislang immer der größeren Zahl Geretteter den Vorzug gab, wird es nun nicht mehr tun. Zum Menschen gehört eben unabdingbar, dass er Emotionen hat, die keine Maschine kennt. Deshalb kann die Maschine auch nicht moralisch urteilen, egal, wie viele Dilemmata nach obigen Muster auch durchexerziert werden mögen. Für einen Menschen würde es moralisch immer eine große Rolle spielen, ob etwas zum Beispiel aus Liebe oder Mitgefühl passiert. Solche Kategorien aber sind für einen Rechner bedeutungslos; er vermag nicht einmal zu erfassen, worum es dabei geht.
Das zählt auch zu den Gründen, weshalb uns keine noch so ausgefeilte KI jemals überholen oder gar ersetzen kann. Es wird Pflegeroboter geben, aber sie werden den Altenpfleger und den Arzt nicht überflüssig machen. Eine Jura-KI mag jedes Komma in tausendseitigen Gesetzbüchern kennen – trotzdem braucht es den Richter, der nach bestem Wissen und Gewissen Strenge und Gnade in seinem Urteil austariert. Lernprogramme gibt es schon, Lehrer brauchen wir weiterhin. Das gilt grundsätzlich für alle Berufe, in denen Verständnis, Mitgefühl, Güte, Hilfsbereitschaft, Toleranz oder Wohlwollen eine Rolle spielen. Das ist es, was Menschlichkeit meint, und keine noch so schnelle und genaue, emotionslos objektive Berechnung kann das je substituieren.
Soll ein Dicker eher geopfert werden als ein Sportlicher? Aus allen Antworten berechnet die Webseite am Ende Mittelwerte für verschiedene Präferenzen – also welches Alter, Geschlecht, welchen sozialen Status und so weiter ein potenzielles Opfer haben sollte. Die Mittelwerte vergleicht die Seite mit allen bisher gegebenen Antworten. Das soll seriös und wissenschaftlich wirken, ist aber nutzlos. Eine solche Situation ist kein Rechenexempel und sie wird auch nicht dazu, wenn man den Antwortmöglichkeiten Häufigkeiten zuordnet. Menschen könnten in wenigen Sekundenbruchteilen gar keine Entscheidung treffen, und auch Rechner, denen theoretisch ein paar Millisekunden dazu genügen würden, sollten es nicht versuchen. Jedes menschliche Leben hat den höchsten Wert. Deshalb stellt jede dieser ausweglosen Wahlen eine Frage, die nicht beantwortet werden darf.
Jens-Christoph Brendel
Stellv. Chefredakteur
