© maxkrasnov, 123RF

Forscher gehen der Frage nach, ob künstliche Intelligenz ein Bewusstsein entwickeln kann und welche Konsequenzen das für uns Menschen hätte.

Karsten Wendland: Momentan sind wir uns ziemlich sicher, dass es mit Bewusstsein begabte Menschen gibt. Und immer mehr von diesen trauen auch den Maschinen zu, irgendwann mit Bewusstsein oder etwas Ähnlichem ausgestattet zu sein. Der Wunsch, Maschinen oder Materie zum Leben zu erwecken, beschäftigt die Menschen schon seit sehr langer Zeit, und wofür in früheren Zeiten Magie und Mystik zuständig waren, dafür lässt sich heute Technik einsetzen.

So sprechen wir mit Alexa, Sophia, Siri und anderen gegenwärtigen KI-Systemen in unserer natürlichen Sprache (Abbildung 1). In Japan wurde 2018 eine KI-Bürgermeisterkandidatin aufgestellt und demokratisch auf den dritten Platz gewählt. Natürlich stehen hinter solchen technischen Systemen echte Menschen und Unternehmen, die der KI Ziele vorgeben und die sicherlich eine eigene Agenda verfolgen. Zuschreibungen wie politische Neutralität, Unbestechlichkeit und so weiter besagter Bügermeisterkandidatin sind natürlich bei genauem Hinsehen unbegründet. Dennoch verhalten sich die Menschen oft so, als hätten solche Maschinen eigene Persönlichkeiten mit allem was dazugehört. Manche geben ihrem Mähroboter im Garten einen Namen oder verlieben sich in virtuelle Begleiter. In Japan finden die ersten Hochzeiten zwischen Menschen und Avataren statt, die zwar noch nicht staatlich, aber immerhin sozial anerkannt sind, mit Bräutigam im Anzug, Blumenschmuck, Freunden und Verwandten.

Abbildung 1: Mit Alexa und Verwandten reden wir bereits so, als seien es Menschen wie wir. ©Karsten Neglia, 123RF

In unserem westlichen Kulturkreis legen wir großen Wert auf die Differenz zwischen Mensch und Technik. Das ist nicht überall auf der Welt so. Bislang hat zu uns im Forschungsprojekt noch keine bewusste KI Kontakt aufgenommen, was uns nicht verwundert. Manche sagen aber, dass die bewusste KI dazu viel zu schlau und wir ihr viel zu profan für eine Kontaktaufnahme seien, das würde sich nicht lohnen.

Linux-Magazin: Lernende neuronale Netze sind reine Mathematik. Mit sehr viel Zeit und Personal könnte man das Gleiche mit einem Taschenrechner kalkulieren. Aber niemand würde einem Taschenrechner Bewusstsein zutrauen. Weshalb könnte man das bei einem Computer erwarten, der dieselben Rechnungen lediglich in größerer Anzahl bewältigt? Kann da Quantität in Qualität umschlagen?

Karsten Wendland: Viele Menschen sind unserer Beobachtung nach genau davon überzeugt, und manche versuchen aktiv darauf hin zu entwickeln. Die Qualität entstünde dann – so die Erwartung – nicht allein durch die Mathematik, sondern durch die prozessuale Anwendung und Ausführung der Mathematik auf zum Beispiel neuromorphen Rechnern, die auch ihre Hardware verändern können.

Unterschiedlich wird eingeschätzt, ob ein derartiges Bewusstsein dann aktiv erzeugt wird oder ob es als Nebenprodukt zur Laufzeit entsteht und somit emergiert. In einer ganz anderen, eher animistischen Sichtweise besteht eine Erwartung, dass von sehr komplexen laufenden Systemen bewusste dynamische Felder angelockt werden und sich an die physikalische Hardware umhüllend anbinden, das wären dann gewissermaßen die gerufenen Geister.

Aus manch abgeklärten philosophischen Haltungen ist all dies überhaupt nicht akzeptabel, da schüttelt man den Kopf über solche Ideen. Und interessant für uns ist dabei, dass all diese Positionen ihre Anhängerschaften haben.

Linux-Magazin: Je nachdem, ob man auch Tieren ein Bewusstsein zugesteht oder nicht, hätte das biologische Bewusstsein mindestens einige Millionen Jahre Zeit gehabt, sich auszuprägen. Kann ein technisches Pendant Vergleichbares in ein paar Jahrzehnten schaffen?

Karsten Wendland: Das hängt davon ab, wie das Bewusstsein zustande kommt, hierzu gibt es unterschiedliche Vorstellungen. Wenn wir biologische Wesen als Vorlage nehmen und das Bewusstsein als Ergebnis der Evolution und der entwickelten Komplexität und Vernetzheit im Hirn verstehen, dann könnte es bei der aktuellen rasanten technischen Entwicklung tatsächlich irgendwann einmal sehr schnell gehen, dass in einem technischen System etwas passiert oder entsteht, das wir aus unseren Erfahrungen heraus “Bewusstsein” nennen würden.

Definitiv wird es immer einfacher, Bewusstsein technisch zu imitieren. Das wäre dann nicht dasselbe wie ein biologisches Bewusstsein, sondern ein “Als ob” – mit allen Verführungen für die Menschheit und für technische Erlösungsfantasien. Für Anhänger dieser Sichtweise ist das synthetische Bewusstsein die nächste Stufe der Evolution.

Ganz anders sieht die Sache aus, wenn man sich dem Bewusstsein aus einer Haltung nähert, die nicht auf den Kopf und auf dessen neurologische Inhalte konzentriert ist, sondern beispielsweise auf den ganzen biologischen Körper, auf soziale Interaktion zwischen Akteuren als Entstehungsraum für Bewusstsein oder sogar auf den Kosmos, aus dem man Bewusstsein als Geschenk empfangen könne. Auch mit solchen Grundhaltungen wird von so manchen darüber gegrübelt, was von KI-Systemen zu erwarten ist, ob sich also Bewusstsein auch an technische Systeme “anbinden” könne oder ob das für jetzt und immerdar völlig ausgeschlossen bleibt.

Linux-Magazin: Wie gehen Sie damit um, dass es für viele Begriffe ihrer Untersuchung — etwa Bewusstsein oder Intelligenz — keine endgültigen Definitionen gibt, sie stattdessen aber zu Grundfragen führen, etwa der, ob es so etwas wie eine Seele gibt? Wenn ja: Gäbe es dann auch eine Maschinenseele?

Karsten Wendland: Wir sind optimistisch, sehr unterschiedliche Positionen an neuralgischen Punkten aufeinander beziehen zu können. Wir bringen viele Akteure aus verschiedenen Diskurs-Arenen, die jeweils ihre eigenen fachlichen Konzepte und Definitionen haben, in die disziplinübergreifende, gemeinsame Auseinandersetzung über den Gegenstand KI-Bewusstsein.

Dabei entstehen typischerweise Erkenntnisse über die Zugangsweisen, Modelle und Methoden der jeweils anderen, die man sich zu eigen machen und damit den eigenen fachlichen Horizont erweitern und anschlussfähig machen kann. So ist man ausdrucksstärker und reflektierter in Bezug auf die eigene Fachlichkeit. Technisch ließe sich von “Schnittstellenarbeit” sprechen, die, wenn sie gut gemacht ist, immer über die Schnittstelle hinausreicht. Das ist punktuell anstrengend, macht die Akteure zum Schluss aber oft sehr zufrieden.

Zur “Maschinenseele” haben wir schon recht früh mit Theologen gesprochen, die wir als Fachleute in dieser Angelegenheit verstehen wollten. Dabei sind wir noch nicht so weit gekommen. Ein Theologe sagte uns, die Seele sei ein soziales Konstrukt, ein anderer meinte dagegen, dass die Seele schon seit einigen Hundert Jahren kein Forschungsgegenstand mehr und raus aus der fachlichen Diskussion sei. Bei vielen unserer Veranstaltungen fragen wir sicherheitshalber nach, wer von den Teilnehmern meint, eine Seele zu haben. Bei den meisten ist dies der Fall. Ich denke, dass über aktuelle Forschung zum KI-Bewusstsein die Seele wieder auf den Tisch kommt.

Linux-Magazin: Sollten Maschinen ein Bewusstsein entwickeln können und damit eigene Ziele haben, bräuchten sie dann nicht auch eine Moral, Werte, eine Ethik? Worauf könnte die sich gründen, wenn nicht, wie beim Menschen, das soziale Zusammenleben die Grundlage ist?

Karsten Wendland: Unklar ist, ob wir im Fall der Fälle die Zeit hätten, bewusste Maschinen zu “domestizieren”, zu “erziehen” und mit Werten auszustatten, oder ob wir ab einem Zeitpunkt x, der auch Punkt der Singularität genannt wird, nur noch Zuschauer wären.

Was wir allerdings jetzt schon tun können und sollten, ist die Entwicklung von KI-Systemen in einem ethischen Rahmen zu halten. Die jüngst erschienenen ethischen Guidelines für vertrauenswürdige KI der Europäischen Kommission machen eine Reihe von Vorgaben in dieser Richtung. Kritische Stimmen beklagen allerdings, dass wichtige ethische Sperrgebiete ausgeklammert beziehungsweise rausgetextet wurden. Hier sind wir als Gesellschaft gefordert, uns über unsere eigene Ethik und über die gewollten Technikzukünfte Klarheit zu verschaffen.

Linux-Magazin: Der amerikanische Philosoph Thomas Nagel betitelte eine seiner Abhandlungen mit “Wie es ist, eine Fledermaus zu sein”. Und er argumentiert darin, dass wir das prinzipiell nicht wissen können, weil wir alle unsere Vorstellungen nur auf der Grundlage unserer eigenen subjektiven Erfahrungen entwickeln. Zu wissen, wie sich etwa Radarortung für eine Fledermaus anfühlt, sei etwas, “das uns aufgrund der Schranken unserer Natur dauerhaft versagt ist”.

Karsten Wendland: Grundsätzlich würde ich den Kollegen in diesem Punkt unterstützen – wir können versuchen, uns anzunähern, aber wir sind in unseren menschlichen körperlichen Strukturen zu Hause und nicht in denen einer Fledermaus, eines autonomen Mars-Rovers oder eines Pflegeroboters.

Aktuelle Implantationstechnologien können Mensch und Maschine allerdings bereits jetzt dahingehend verbinden und im Wortsinn verschmelzen, dass sie diese Barrieren bewusst überschreiten. Mit implantierten Hörgeräten können auch Menschen Fledermaustöne hören, die in den menschlichen Hörbereich transponiert werden.

Die philosophische Frage, ob Maschinen auch Leid empfinden könnten, lässt sich derzeit nicht beantworten. Wohl aber könnten Implantate das Empfinden von Leid simulieren und an den Menschen spürbar weitergeben.

Linux-Magazin: Wie nützlich wäre Offenheit: Sollte eine mit Bewusstsein begabte KI Open Source sein?

Karsten Wendland: Algorithmen und Baupläne würden gewiss über kurz oder lang geleakt werden, wollte man sie der Öffentlichkeit vorenthalten. Ob sich auf Basis dieser Materialien und Informationen dann etwas anfangen ließe, ist aus heutiger Sicht ungewiss. Für die Gesellschaften wäre es wichtig, so gut es geht nachvollziehen zu können, was im Bereich KI-Bewusstsein wie und warum geschieht und welche Eingriffs- und Gestaltungsmöglichkeiten bestehen. Über diese Fragen werden wir recht schnell zu unserem eigenen Bewusstsein, den Werten und unserer Ethik zurückgeschickt.

Linux-Magazin: Von den Homunkuli der Alchemisten des Mittelalters bis zu Cyborgs und Replikanten in heutigen Science-Fiction-Filmen zieht sich die Idee von künstlichen Menschen durch die Kunst. Wie nahe könnten diese Vorstellungen einer möglichen Realität inzwischen gekommen sein?

Karsten Wendland: Erste Entwürfe für neuromorphe Computer mit Erzeugung von künstlichem Bewusstsein werden derzeit für die EU-Patentierung vorbereitet – das ist schon handfester als unterhaltsame Popkultur auf der Bühne, im Kino oder im Computerspiel. Die Branche der Sex-Roboter scheint sich recht erfolgreich auf die Erzeugung künstlicher Menschen eingelassen zu haben.

Ob wir humanoid anmutendes Personal am Hoteltresen oder menschlich aussehende Pflegeroboter attraktiv oder unheimlich finden, hängt stark vom Kulturkreis ab. Unser technisches Wissen konnte viele frühere Vorstellungen entzaubern, weil wir von vielen Dingen wissen, wie sie funktionieren und wie wir sie bauen können – und dies eben auch eher tun als lassen (Abbildung 2).

Abbildung 2: Ersetzen uns künftig humanoide Roboter und wenn ja, werden sie mitfühlen können? © Tatiana Shepeleva

Allerdings geht auch die westliche Esoterik mit der Zeit und nimmt technische Elemente in ihre Konzepte auf, sicherlich in Wechselwirkung mit modernen Science-Fiction-Angeboten.

Um es zuzuspitzen: Wir sollten die KI “zähmen”, um uns zu erhalten. Das heißt, als Gesellschaft der KI klare Rollen zuweisen, egal ob ein Bewusstsein nur imitiert und simuliert wird, ob es sich um intelligente Implantate bewusster Menschen handelt oder um etwas Neues, das wir so bislang noch nicht kennen.

Um diese zuweisende Haltung zu üben, können wir schon jetzt darauf achten, uns nicht ungewollt von der Technik fernsteuern zu lassen, die in attraktiven Assistenz-Formaten im Netz, im Smart Home oder in der Hosentasche unsere Handlungen antriggert, kontrolliert und uns damit an der Leine hat, oder vornehmer: von uns beauftragt in die selbstverschuldete Unmündigkeit zurückführt.

Linux-Magazin: Zumindest im Science-Fiction-Umfeld wird auch eine verwandte, aber dennoch gegenläufige Hypothese diskutiert: Statt Maschinen mit Bewusstsein auszustatten, soll ein menschliches Bewusstsein zu Maschinen transferiert werden, beispielsweise zu Großrechnern, um im Computer ewig weiterzuleben. Was halten davon?

Karsten Wendland: Einige dieser Transhumanisten habe ich gefragt, warum sie sich für ein ewiges Leben nicht einfach eine vorhandene Religion mit Reinkarnationskonzept suchen und dann an diese glauben, anstatt den anstrengenden Weg über die Technik zu gehen. Der unbedingte Wunsch bei der Übertragung des Bewusstseins auf Großrechner ist aber, dass der Gläubige dabei seine Ich-Identität behalten und auf ewig ausdehnen kann und dabei nicht immer wieder von vorne anfangen muss.

Angestrebt wird die Weiterexistenz sowohl in den virtuellen Welten als auch in temporären Ausflügen zurück in unsere Lebenswelt, in denen man sich dann zum Beispiel auch in anderen Geschlechterrollen ausprobieren kann.

Das Ganze ist die Idee von einem technisch hervorgebrachten “Jenseits Plus”, die im atheistischen Gewand daherkommt und dennoch strukturell religiöse Züge trägt. Allerdings wollen das die mitunter sehr einflussreichen und kapitalstarken Anhänger des Mind-Uploading gar nicht so gerne hören.

Möglicherweise tragen derartige Transzendenz-Versuche aber auch dazu bei, dass Erkenntnisse für uns alle für ein gutes analoges Leben abfallen. Ich selbst glaube fest an ein Leben vor dem Tod.