© Eugenio Marongiu, 123RF

Anspruch und Wirklichkeit gehen auf kaum einem Gebiet der Informatik so weit auseinander wie bei der künstlichen Intelligenz. Ein genauer Blick lohnt sich gerade angesichts des aktuellen Hype. Nur so sind reale Potenziale von haltlosen Versprechen zu unterscheiden.

Das Thema künstliche Intelligenz ist derzeit allgegenwärtig. In der öffentlichen Diskussion der Ergebnisse und ihrer Konsequenzen verschwimmt jedoch allzu oft die Grenze zwischen realistischer Prognose und Science Fiction. Daran sind die Protagonisten der KI nicht unschuldig. Von Anfang an hatten sie völlig überzogene Erwartungen geweckt und (finanziell) erfolgreich lanciert. Dabei geholfen hat nicht zuletzt die geschickte Wortwahl. Das beginnt beim Namen der Disziplin und setzt sich mit den “neuronalen Netzen” und dem “maschinellen Lernen” fort. Jeder dieser Begriffe ist nicht ganz falsch, suggeriert aber eine Bedeutung, die weit über das hinausreicht, was bisher wirklich erreicht ist.

Dieser Artikel wirft einen genaueren Blick auf das, was sich unter der verheißungsvollen Oberfläche verbirgt. Dabei geht es nicht darum, die durchaus bemerkenswerten Leistungen auf dem Gebiet der künstlichen Intelligenz in Abrede zu stellen. Es wird vielmehr versucht, durch eine seriöse Beschreibung diese Leistungen so zu präsentieren, dass sie weder falsche Erwartungen noch unnötige Ängste provozieren.

Eine Rückbesinnung auf wissenschaftliche Standards bei der Begrifflichkeit hätte auch für die KI selbst einen nachhaltigen Vorteil, denn das Wecken illusorischer Erwartungen führt zwar kurzfristig zu einem erheblich Zufluss finanzieller Mittel. Wenn dann nach einer Weile geduldigen Wartens die versprochenen Resultate jedoch ausbleiben oder sehr viel bescheidener als versprochen ausfallen, geht die Unterstützung schlagartig und gewöhnlich für längere Zeit zurück.

Für diese Phasen schwacher Beachtung, die durchaus zehn bis 20 Jahre dauern können, gibt es sogar einen eigenen Begriff: KI-Winter. Einiges deutet darauf hin, dass wir gegenwärtig den Frühherbst eines neuen KI-Winters erleben.

Was ist Intelligenz?

Für die Beantwortung der Frage nach dem Wesen der Intelligenz wäre zunächst eine exakte Definition des Begriffs notwendig. Leider ist dieser Ansatz nicht praktikabel, denn der Begriff Intelligenz ist, obgleich man ihn im Kern übereinstimmend versteht, an seinen Rändern äußerst diffus und schwer abgrenzbar. Das hat er mit dem abgeleiteten Begriff KI gemein.

Eine für die weiteren Überlegungen geeignete Beschreibung könnte etwa lauten: “Intelligenz ist eine sehr allgemeine geistige Kapazität, die – unter anderem – die Fähigkeit zum schlussfolgernden Denken, zum Planen, zur Problemlösung, zum abstrakten Denken, zum Verständnis komplexer Ideen, zum schnellen Lernen und zum Lernen aus Erfahrung umfasst” [1].

Intelligenz ist vor allem eine versteckte Fähigkeit, die erst in der Anwendung sichtbar wird. Entwicklungsgeschichtlich muss Intelligenz vor allem als Fähigkeit gesehen werden, mit zuvor unbekannten Situationen umzugehen oder mit innovativen Lösungen bekannte Situationen besser – im Sinne des Überlebens – beherrschen zu können.

Fragt man danach, was künstliche Intelligenz ist, gerät die Lage kaum übersichtlicher. Deshalb beschränkt sich dieser Artikel auf die Betrachtung einiger bisher unter diesem Etikett präsentierter Ergebnisse und versucht sie in Relation zur menschlichen Intelligenz zu setzen. Auf dieser Basis lassen sich begründete Annahmen machen, welche Konsequenzen für die nähere Zukunft zu erwarten sind.

Die Werkzeuge der KI

Ganz im Gegensatz zu den großartigen Ansprüchen und Versprechungen ist der Werkzeugkasten der KI überraschend bescheiden bestückt. Die wichtigsten Methoden lassen sich grob in zwei Gruppen einteilen:

• regelbasierte Verfahren und
• statistische Verfahren.

Natürlich kommen diese Verfahren je nach Aufgabenstellung in unterschiedlichen, teils außerordentlich ausgefeilten Anpassungen und Kombinationen zum Einsatz.

Die bemerkenswerten Fortschritte auf dem Gebiet der KI in jüngerer Zeit sind im Wesentlichen aber nicht neuen Algorithmen zu verdanken, sondern den enormen Zuwächsen an Verarbeitungskapazität, Speichervermögen und Daten. Es ist deshalb auch nicht verwunderlich, dass diese Ergebnisse überwiegend die Internetgiganten mit ihren gewaltigen Datenmengen und Rechenzentren produziert haben.

Regelbasierte Verfahren

Die Grundidee der regelbasierten Verfahren besteht darin, aus einer Menge von Aussagen (Fakten, Axiomen) mittels logischer Schlussregeln neue Aussagen herzuleiten beziehungsweise die Richtigkeit von Aussagen zu beweisen. Diese Methodik erlebte in den 1980er Jahren einen starken Aufschwung unter dem Eindruck der japanischen Initiative zur Entwicklung von Computern der fünften Generation. Obwohl die hochgesteckten Ziele dieses Programms nie erreicht wurden, entstanden mit Expertensystemen und Theorembeweisern nützliche Werkzeuge. Allerdings zeigten sich auch sehr schnell die technischen und prinzipiellen Grenzen dieses Ansatzes:

1. Für praktisch relevante Anwendungen werden sehr viele Regeln benötigt. Je spezifischer dabei die Voraussetzungen einzelner Regeln sind, desto schwieriger wird die widerspruchsfreie Formulierung. Um diesem Dilemma zumindest ein Stück weit zu entkommen, hat die Informatik beispielsweise die Fuzzy-Logik und alternative (nicht-monotone) Schlussweisen intensiv untersucht. Ein echter Ausweg fand sich damit jedoch nicht.

2. Es gibt für Regelsysteme keine effizienten Auswertungsverfahren. Letztlich läuft es immer auf systematisches Durchprobieren (fast) aller Möglichkeiten hinaus. Das beschränkt den Umfang der mit jeweils angemessenem Aufwand behandelbaren Aufgaben entscheidend.

3. Es ist prinzipiell nicht möglich, die Realität durch eine hinreichend beschränkte Anzahl von Fakten und Regeln zu beschreiben. Ein solches System kann also bestenfalls auf einen eng definierten Ausschnitt der Realität “intelligent” reagieren. Spiele stellen einen solchen Ausschnitt dar. Alltagssituationen sind aber grundsätzlich offen.

4. Seit Kurt Gödel 1931 seine Unvollständigkeitssätze veröffentlichte, ist bekannt, dass in hinreichend mächtigen formalen Systemen, und das sind diese regelbasierten Verfahren, Aussagen existieren, deren Gültigkeit weder bewiesen noch falsifiziert werden kann. Es existieren also stets Konstellationen, auf die ein regelbasiertes System keine Antwort geben kann. Da es sich bei dieser Schlussfolgerung um einen reinen Existenzbeweis handelt, kann bisher niemand die tatsächlichen Konsequenzen abschätzen.

Bereits die ersten beiden (technischen) Einschränkungen stellten sich als derart einschneidend heraus, dass die anderen prinzipiellen Schranken keine Rolle beim letztendlichen Verfehlen der proklamierten Ziele mehr spielten. Regelbasierte Systeme allein skalieren bislang zu schlecht, um in Bereiche vorzustoßen, die sich ernsthaft als Intelligenz bezeichnen lassen. Sie werden allerdings häufig zusammen mit den im Folgenden betrachteten statistischen Verfahren eingesetzt.

Statistische Verfahren

Das derzeit wichtigste statistische Verfahren verbirgt sich hinter dem Namen “neuronales Netz”. Diese Bezeichnung hat sich als außerordentlich wirkungsvoll erwiesen und entscheidend dazu beigetragen, kaum erfüllbare Versprechungen glaubhaft erscheinen zu lassen. Tatsächlich ist die Ähnlichkeit mit der Funktion des Nervensystems kaum ausgeprägter als die eines Schaukelpferds mit einem lebenden Pferd. Die Funktion von Neuronen und der lange für unwesentlich gehaltenen Gliazellen ist noch lange nicht so weit verstanden, dass an eine angemessene Modellierung gedacht werden kann (Abbildung 1).

Abbildung 1: Echte Neuronen-Netze des Nervensystems sind heute noch zu so großen Teilen unverstanden, dass man sie noch lange nicht modellieren kann.

Neuronale Netze sind ein Werkzeug zur Ermittlung von Korrelationen höherer Ordnung in einer Datenmenge. Mathematisch gesehen realisiert ein neuronales Netz eine komplexe, durch die Netzstruktur gegebene Approximationsfunktion, wobei die Gewichte der einzelnen Verbindungen und die Aktivierungsschranken der Knoten (Neuronen) die zu bestimmenden Parameter sind. Für die Berechnung dieser Werte kommen speziell auf die jeweilige Netztopologie zugeschnittene iterative Näherungsverfahren (etwa Backpropagation) zum Einsatz.

Wegen der Vielzahl der zu bestimmenden Parameter sind entsprechend viele Stützpunkte notwendig – die Trainingsdaten. Der Berechnungsprozess wird “maschinelles Lernen” genannt. In Anbetracht dessen, dass er lediglich statistische Zusammenhänge ermittelt, eine anspruchsvolle Benennung. Um Missverständnissen vorzubeugen, sollte von “Training” oder “Üben” die Rede sein, denn das Netz lernt dabei nichts, was ihm hilft, die Welt besser zu verstehen. Es übt vielmehr, eine genau umrissene Aufgabe möglichst gut zu lösen. Das ist lediglich die allereinfachste Form des Lernens.

Qualitativ besteht kein prinzipieller Unterschied zwischen dem, was ein neuronales Netz leistet und statistischen Verfahren für die Bestimmung von Scores, wie sie beispielsweise zur Quantifizierung der Kreditwürdigkeit üblich sind. Da neuronale Netze in der gegenwärtigen Diskussion die größte Bedeutung haben, betrachtet dieser Artikel ihre Grenzen und Defizite etwas ausführlicher.

Trainingsdaten

Je anspruchsvoller die zu lösende Aufgabe desto mehr Schichten und Neuronen benötigt in der Regel das neuronale Netz. Entsprechend groß wird die Anzahl der zu bestimmenden Parameter, was wiederum entsprechend umfangreiche Trainingsdaten erfordert. Beim derzeit vorherrschenden überwachten Lernen muss ein Mensch jeden Datensatz mit dem erwarteten Ergebnis bewerten. Das erfordert entsprechende Ressourcen für die Bewertung und ist für bewusste oder unabsichtliche Manipulationen anfällig. Auch ist diese Bewertung bisweilen nicht frei von subjektiven Einflüssen.

Das öfter als potenziell gerechter angeführte KI-gestützte Auswählen von Bewerbern dürfte an vielen Stellen schon deshalb Illusion bleiben, weil genügend Trainingsdaten fehlen. Zudem sind die vorhandenen Daten (ähnlich wie bei Krediten) einseitig verzerrt, da es keine reelle Bewertung von abgewiesenen Bewerbungen geben kann. Von Dienstleistern angebotene, fertig trainierte Netze nach dem Motto “One size fits all” sind eher ein Notbehelf, da zu unspezifisch.

In ernsthafte Schwierigkeiten kommt der Anwender, wenn er aufgrund rechtlicher Vorgaben (etwa dem Diskriminierungsverbot) bestimmte Merkmale nicht berücksichtigen darf. Es kann prinzipiell nicht ausgeschlossen werden, dass zwischen den ausgelassenen und den verwendeten Merkmalen schwer erkennbare Korrelationen bestehen. Folglich kann das trainierte Netz trotz des expliziten Ausschlusses verbotener Merkmale gegen die Vorgaben verstoßen [2].

Genauso problematisch ist es, zu ermitteln, wie gut die Trainingsdaten den betrachteten Definitionsbereich abdecken, falls der überhaupt bestimmt werden kann. Die weitgehende Abdeckung ist aber eine wichtige Voraussetzung für gute Ergebnisse.

Zeitinvarianz

Die Anwendung neuronaler Netze setzt – zumindest implizit – eine weitgehende zeitliche Invarianz der betrachteten Prozesse voraus. Für die Bild-Erkennung etwa ist das kein Problem. Sobald man es aber mit rückgekoppelten Systemen zu tun hat, wird es komplizierter. Am Beispiel der bereits erwähnten Bewerbungen ist das leicht darstellbar.

Möglicherweise spricht es sich unter den Kandidaten herum, welche Eigenschaften eine erfolgreiche Bewerbung haben muss, sodass neue Bewerber ihre Unterlagen entsprechend anpassen. In der Folge akzeptiert der Algorithmus wahrscheinlich einen größeren Anteil, ohne dass sich an den Kandidaten selbst etwas geändert hat. Das bedeutet, die Trennschärfe sinkt und damit letzten Endes auch die Güte der maschinellen Entscheidungen.

Ganz analoge Entwicklungen ergeben sich aus dem Einsatz von KI-Systemen zur Kriminalitätsprävention [3]. Selbst wenn derartige Vorhersagen signifikante Effekte haben sollten, würden sich auf längere Sicht nur andere Kriminalitätsschwerpunkte herausbilden. In der Interaktion mit (im umfassenden Sinn) lernfähigen Systemen übt die KI gewissermaßen eine Art Selektionsdruck aus, der ihre einmal erlernten Fähigkeiten langfristig entwertet. Dem ist auch durch ständiges Nachtrainieren nur mit zeitlicher Verzögerung abzuhelfen, weil immer erst die neuen Trainingsdaten im notwendigen Umfang vorliegen müssen.

Daraus ergibt sich eine im Rahmen dieses Modells kaum überwindbare Grenze im Umgang mit dynamischen Systemen. Diese Situation tritt darüber hinaus immer dann auf, wenn ein Einflussfaktor, den das Training nicht berücksichtigt hatte, weil man annahm, er sei konstant, sich doch ändert oder den in den Daten abgedeckten Wertebereich verlässt.

Beharrungsvermögen

Etwas überspitzt ausgedrückt, verkörpert ein trainiertes neuronales Netz den Prototyp des weisen Alten: Es hat viele Erfahrungen gesammelt und beurteilt alles im Lichte dieser Erfahrungen. Mit Innovationen kann es nicht umgehen. Das muss kein Nachteil sein, wenn es zum Einsatzbereich passt. Um auf das Beispiel zurückzukommen: Eine besonders originelle Bewerbung läuft Gefahr, aussortiert zu werden, wenn nicht zusätzliche, außerhalb liegende Maßnahmen für solche Fälle vorgesehen sind.

Weil niemand sicher sein kann, dass die Trainingsdaten wirklich völlig neutral waren, besteht zudem die Gefahr, dass das Verfahren Vorurteile praktisch unangreifbar – weil verborgen – institutionalisiert. Wenn die neuronalen Netze wiederum häufig neu trainieren müssen, um sich auf veränderte Gegebenheiten einzustellen, entstehen die gleichen Probleme wie bei dynamischen Systemen.

Nicht-Nachvollziehbarkeit

Die Trainingsdaten bestimmen wesentlich das Verhalten eines neuronalen Netzes. Beim Training wird iterativ versucht, eine implizite Fehlerfunktion unter eine vorgegebene Schranke zu drücken. Infolge der Kompliziertheit dieser Funktion führt oft bereits eine Änderung in der Anordnung der Trainingsdaten zu unterschiedlichen Ergebnissen. Eine gewisse Gütekontrolle des erhaltenen Netzes ist nur durch Anwendung auf einen nicht zu kleinen Satz von Kontrolldaten möglich. Diese Kontrolldaten sind zusätzlich bereitzustellen und vergrößern die notwendige Datenmenge.

Diese Kontrolle ändert aber nichts an der Tatsache, dass es faktisch nicht nachvollziehbar ist, warum eine bestimmte Entscheidung fällt. Während bei einem herkömmlichen Score zumindest theoretisch die Chance besteht, entscheidende Einflussfaktoren zu ermitteln, ist das bei neuronalen Netzen illusorisch. Man muss – wie bereits erwähnt – sogar damit rechnen, dass ein Ergebnis nach dem erneuten Trainieren mit den lediglich umgeordneten ursprünglichen Trainingsdaten anders ausfällt.

Unsicherheit des Ergebnisses

Neuronale Netze treffen lediglich eine statistische Aussage. Richtigerweise werden sie deshalb auch im Zusammenhang mit Big Data gesehen, und es wäre vernünftiger, von ihnen als “fortgeschrittenen statistischen Verfahren” zu sprechen. Aber unabhängig von der Benennung ist den Bewertungsverfahren auf statistischer Basis gemeinsam, dass sie keine Resultate für konkrete Fälle liefern. Die Aussage lautet vielmehr: Ein Fall mit diesen (oder sehr ähnlichen) Eigenschaften hat in der Vergangenheit mit hoher Wahrscheinlichkeit zu einem bestimmten (diesem) Ergebnis geführt.

Wenn der Zusammenhang mehr oder weniger deterministisch ist, wird das neuronale Netz immer brauchbare Ergebnisse liefern. In anderen Fällen wird das zu großen Teilen ebenfalls so sein. Es ist sogar wahrscheinlich, dass aufgrund der komplexeren Analyse Korrelationen berücksichtigt werden, die ein Mensch so nicht erkannt hätte. Gerade Letzteres ist geeignet den Eindruck zu erwecken, dass das Netz intelligenter wäre. Trotzdem bleibt immer eine schwer abschätzbare Restwahrscheinlichkeit, dass ein Ergebnis falsch ist.

Täuschbarkeit

Neuronale Netze können zwar unter Umständen Zusammenhänge erfassen, die dem Menschen verborgen bleiben. Aber sie lassen sich auch viel leichter täuschen, da sie nur statistische Eigenschaften betrachten, keine Strukturen. Wenn man die genauen Daten des neuronalen Netzes kennt (und möglicherweise nicht nur dann), ist es möglich, von den gegebenen Ergebnisdaten ausgehend rückwärts durch das Netz zu iterieren und so Ausgangsdaten zu berechnen, die nichts mehr mit der ursprünglichen Aufgabe zu tun haben.

In [4] wird dies am Beispiel der Bild-Erkennung demonstriert. Die daraus entnommene Abbildung 2 zeigt einige Beispiele von Bildern, die mit 99-prozentiger Konfidenz als Tiere oder andere Objekte erkannt wurden. Für Statistiker ist das wahrscheinlich wenig überraschend.

Abbildung 2: Diese Bilder stufte ein neuronales Netz mit hoher Wahrscheinlichkeit als Tiere oder Dinge ein.

Bewertung

Alle Verfahren der KI können nur in einem beschränkten Kontext agieren (Abbildung 3). Das gilt zwar auch für die menschliche Intelligenz, aber für sie ist der gemeinhin “Realität” genannte Kontext um einige Größenordnungen umfangreicher als das, was heute selbst die gewaltigsten KI-System behandeln können. Aus diesem Grund ist die KI unvermeidlich im Nachteil, wenn ein unberücksichtigter Faktor zum Tragen kommt.

Abbildung 3: KI ist im Kern Statistik. Entsprechend kann sie nicht erfinden, was nicht in den Zahlen steckt.

Wie schwierig es ist, selbst in eng umrissenen Gebieten alle relevanten Einflüsse zu identifizieren, lässt sich bei der Einführung neuer Software regelmäßig beobachten. Wer KI einsetzt, muss deshalb sicherstellen, dass der vorausgesetzte Kontext bei allen Entscheidungen gegeben ist. Andernfalls muss der Anwender auf andere Verfahren, etwa Bediener-Eingriff oder Prüfung durch einen Bearbeiter, umschalten. Es ist nicht überraschend, dass die KI ihre spektakulärsten Erfolge bei Spielen erreicht hat. Spiele sind der Prototyp eines beschränkten Kontextes und haben überdies noch den Vorteil, dass die Zahl der Einflussfaktoren bei ihnen recht gering ist.

Bisher lernen KI-Systeme lediglich, das mehr oder weniger intelligente Verhalten, das sich in den Trainingsdaten manifestiert, zu imitieren. Höhere Leistungen wie Abstraktion oder das Unterscheiden zwischen wesentlichen und unwesentlichen Merkmalen als Voraussetzung für den Aufbau eines inneren Modells der Außenwelt fehlen völlig (Abbildung 4). Derartige Strategien werden aber benötigt, um schneller auf geänderte Bedingungen reagieren zu können.

Abbildung 4: Eigene Gedanken hat eine KI noch lange nicht, das Denken kann sie nur simulieren.

Das wiederum wäre jedoch die Voraussetzung, um kompliziertere Systeme aus hierarchisch gekoppelten neuronalen Netzen mit vertretbarem Aufwand trainieren zu können. (Eine wesentlich tiefer gehende Diskussion der Möglichkeiten und Grenzen maschinellen Lernens findet sich unter [5].)

Einige der leichtfertig der KI zugeschriebenen Leistungen wird auch eine echte Superintelligenz nie erbringen können, weil dafür zukünftige Ereignisse bekannt sein müssten. Der beste Bewerbungsprozess kann nicht verhindern, dass der ausgewählte Kandidat später unter Einflüsse gerät, die dazu führen, dass er die Erwartungen nicht erfüllt.

Nicht ganz außer Acht lassen sollte man bei einer Bewertung schließlich den Ressourcenverbrauch. Im Vergleich mit menschlichen Leistungen ist der Energie- und Platzbedarf von KI-Systemen ungeheuer. Insbesondere für das Training neuronaler Netze werden erhebliche Mengen an Daten und Rechenkapazität benötigt.

Wirkliche Gefahren der KI

Die derzeit größte Gefahr besteht nicht darin, was KI wirklich kann, sondern darin, was man der KI zutraut. Da den Computer immer noch die Aura der übermenschlichen Exaktheit und weitgehenden Unfehlbarkeit umweht – trotz der vielen alltäglichen Gegenbeispiele – bleibt zu befürchten, dass durch KI ermittelte Ergebnisse viel zu leichtfertig akzeptiert werden. Dazu gibt es aber, wie gezeigt wurde, keine Veranlassung. Mit den heute verfügbaren Mitteln sind Fehler gar nicht vermeidbar.

Um diese Gefahr zu veranschaulichen, stelle man sich einmal vor, dass ein intelligentes Haus seinem Bewohner den Zutritt verweigert, weil der auf dem Heimweg gestürzt ist und nicht mehr erkannt wird. Das ist ärgerlich genug. Was aber, wenn der um Hilfe gebetene Dienstleister der KI mehr vertraut als dem geplagten Bewohner? Im Rahmen von Sicherheitsüberprüfungen wurde über derartige Vorkommnisse schon berichtet.

Ein anderes Beispiel wäre die automatische Kreditvergabe unter Einbeziehung von Massendaten aus weniger zuverlässigen Quellen (wie sozialen Netzwerken). Der einzelne Kunde ist dem System hilflos ausgeliefert, weil er weder den Entscheidungsprozess noch die verwendeten Daten – allein auf Grund der Masse – nachprüfen kann.

Ebenso leichtsinnig wäre es, in Erwartung versprochener zukünftiger KI-Lösungen bereits jetzt auf Investitionen oder Ausbildung in möglicherweise betroffenen Bereichen zu verzichten.

Fazit

Im Licht der oben gegebenen Intelligenzdefinition ist zu konstatieren, dass KI-Systeme bisher über keine der angeführten Fähigkeiten in nennenswertem Ausmaß verfügen. Gelungen ist es allerdings, in einzelnen Teilbereichen intelligentes Verhalten so weit zu simulieren, dass daraus praktisch nutzbare Anwendungen entstanden sind. Prominente Beispiele sind die Bild-Erkennung, Sprachassistenten, Übersetzer und autonome Fahrzeuge. Allen gemeinsam sind jedoch die Einschränkung auf relativ eng begrenzte Kontexte und der stochastische Charakter der Ergebnisse. Eine sehr spannende Frage ist es, inwieweit die vorhandenen Verfahren noch Potenzial für deutliche Verbesserungen bieten.

KI ist ein faszinierendes Forschungsgebiet, das eine Reihe von interessanten Werkzeugen hervorgebracht hat. Allerdings scheinen die Akteure in einem unheilvollen Zyklus gefangen. Jedes Mal, wenn durchaus beachtliche Ergebnisse zu verzeichnen sind, können sie der Versuchung nicht widerstehen, haltlose Versprechungen über die in kürzester Zeit zu erwartenden Fortschritte abzugeben. Die Enttäuschung mit allen negativen Folgen ist unausweichlich. Einige aktuelle Meldungen deuten darauf hin, dass auch im aktuellen Zyklus erste Misserfolge nicht mehr zu bestreiten sind:

• Das von IBM vermarktete Watson-System hat im Kampf gegen Tumor-Erkrankungen bisher enttäuscht [6].
• Eine Auswertung von Daten der US-Verkehrssicherheitsbehörde zeigt, dass die Zahl der relevanten Fälle von Steuerungsübergaben an den Fahrer je gefahrener Strecke nach wie vor relativ hoch ist und in den letzten beiden Jahren nicht mehr reduziert werden konnte [7]. Da es sich dabei um kritische Situationen handelt, die möglicherweise zu einem Unfall führen können, heißt das nichts anderes, als dass auch der Traum vom unfallfreien autonomen Fahren noch einige Zeit ein solcher bleiben wird.

Der 2017 verstorbene amerikanische Philosoph Hubert Dreyfus veröffentlichte 1964 einen Bericht unter dem Titel “Alchemy and Artificial Intelligence” [8], in dem er seine Eindrücke aus einem Forschungsaufenthalt bei der Rand Corporation beschrieb. Die dünnhäutige Reaktion der KI-Forscher, die bis zum Abbruch persönlicher Kontakte reichte, erscheint – nüchtern betrachtet – überraschend angesichts der Unbekümmertheit, mit der Begriffe wie Lernen und Intelligenz übernommen wurden.

Denn tatsächlich sind einige Parallelen nicht von der Hand zu weisen und auch nicht ehrenrührig:

• Die Alchemisten wussten nicht, ob ihr Ziel erreichbar war.
• Sie machten viele wichtige Entdeckungen, zum Beispiel die Porzellanherstellung.
• Sie legten die Grundlage für eine neue Wissenschaft – die Chemie.

Einen wesentlichen Unterschied gibt es allerdings: Das Ziel, die Goldherstellung, war klar definiert und nachprüfbar. Niemand kann heute seriös vorhersagen, ob und in welchem Umfang die Ziele der KI jemals erreicht werden. Klar ist aber, dass uns von der Superintelligenz und der Singularität noch gewaltig viel Arbeit und Forschung trennen.