Was bedeutet es für unser Denken, unser Wissen, unsere Werte, wenn wir das menschliche Sprachvermögen, das alldem zugrunde liegt, an Maschinen delegieren? Eine philosophische Spurensuche.

Wenn es nicht um rein technische Erörterungen, sondern um die gesellschaftlichen Folgen der KI geht, drehen sich Diskussionen oft darum, wer der Nächste ist, der seinen Job durch sie verliert. Oder noch dystopischer: Wann reißt die Superintelligenz die Weltherrschaft an sich? Diesen Fragen geht Roberto Simanowski in seiner Philosophie der künstlichen Intelligenz nicht nach, doch die Fragen, die er stattdessen aufgreift, sind mindestens so spannend.

Sprachmodelle mögen vielleicht nicht alles, sondern nur vieles “wissen” – dürfen aber nicht alles sagen. Nachdem sie Millionen Texte aufgesogen haben, wird ihnen im Feintuning – Simanowski nennt das Zweiterziehung, nach der Ersterziehung durch den Datensatz – eine Werteordnung aufgeprägt, die ihnen zum Beispiel verbietet Fragen zum perfekten Massenmord oder nach erfolgreicher Steuerhinterziehung zu beantworten. Zudem haben sie implizit Werte und auch Vorurteile aufgenommen, die in ihren Trainingsdaten repräsentiert waren.

Wer mit einem Sprachmodell redet, spricht also nicht mit einem einzelnen Menschen, mit dessen Wertvorstellungen er sich auseinandersetzen könnte. Stattdessen kommuniziert er oder sie mit einer Unmenge an Menschen, deren Sicht auf sprichwörtlich Gott und die Welt das Sprachmodell aufgesaugt hat und nun in einer bestimmten Mischung weitergibt. Dieser Unmenge an Menschen verleiht das Sprachmodell nach seinen Regeln eine Stimme.

Daran knüpfen sich zahlreiche Fragen: Nach welchen Standards und mit welchen Werten soll diese Verwaltung der Kommunikation durch das Sprachmodell vor sich gehen? Ist es hinnehmbar, dass eine Handvoll Mitarbeiter eines privatwirtschaftlichen Unternehmens ohne politisches Mandat, diese Regeln nicht nur bestimmen, sondern gleich auch noch durchsetzen können? Sie sind damit mächtiger als es jeder Zensor einst war, so der Autor.

Kann es überhaupt einen universellen Satz von Normen geben, der für alle gilt? Oder haben nicht Menschen in anderen Kulturen und mit anderen Religionen ganz andere Wertvorstellungen, als sie in der westlichen Welt vorherrschen? Sollten Sprachmodelle daher Wertesyteme in einer Art modularen Architektur bereithalten und je nach Kontext und Präferenz des Nutzers aktivieren? Wäre es angeraten, die Ethik der KI nicht nur durch eine ausgewogene Datenauswahl zu steuern, sondern direkt gegen Ungerechtigkeit vorzugehen, indem etwa Minderheiten gezielt bevorzugt werden? Solche Fragen stellen sich um so drängender, als Sprachmodelle – vor allem in den USA – bereits zu einem Schlachtfeld des Kulturkampfs geworden sind.

Verwandte Fragen ergeben sich aus dem Wirkprinzip der Sprachmodelle, nämlich der Suche nach der statistisch wahrscheinlichsten Satzfortsetzung. Dabei ist der einzige Maßstab der Modelle die Quantität. Simanowski schreibt: “Was immer die Sprachmaschine sagt, sie sagt es nicht aus Überzeugung oder Verblendung, sondern nur aus mathematischen Gründen. Sie reproduziert immer die dominanten Muster in den Trainingsdaten, nicht die anderen, die es auch geben mag.” Will man aber tatsächlich sensible Themen wie Todesstrafe, Geburtenkontrolle, Migration oder Homosexualität immer dem Mehrheitsvotum überlassen? Wer schützt dann die Minderheiten? Und führt das nicht zu kultureller Verarmung, weil immer das verstärkt wird, was bereits etabliert und populär ist?

Dieser Effekt wird noch dadurch verstärkt, dass immer mehr KI-generierte Texte im Umlauf sind. Menschengemachte Texte geraten angesichts der Flut aus Texten, die von der KI aus bereits vorhandenen Daten generiert wurden, in die Unterzahl. Wenn alle neuen, von Menschen verfassten Inputs mengenmäßig nicht mehr ins Gewicht fallen, dann entsteht eine Echokammer, aus der der Mensch ausgeschlossen ist. Wir gelangen an einen Kipppunkt der Wissensproduktion: “Die KI formt nur noch diejenigen Daten zu Wissen, die sie selbst produziert hat.”

Simanowskis Buch – das auch noch andere Probleme anspricht, etwa das der Deepfakes, oder die Gefahr zu Verblöden, wenn man das Denken an die Maschine delegiert, oder die Notwendigkeit einer Medienerziehung – ist ein wichtiger Beitrag zur aktuellen Debatte. Es fordert zur Auseinandersetzung mit bedeutsamen Fragen heraus, die sonst in der zwischen Euphorie und Fatalismus schwankenden öffentlichen Diskussion untergehen.