© Computec Media GmbH

KI-Nutzung kann dazu führen, dass der Mensch mit der Zeit verlernt, was er an sie delegiert hat. Das kann gefährlich sein.

Es war einmal das bekannteste Paradebeispiel für den Triumph der KI: Ein System, das in medizinischen Aufnahmen Krebs erkennen kann, besser und schneller als jeder Arzt. Dazu unvoreingenommen und nimmermüde: Mit immer gleicher Präzision studiert es auch das zigtausendste Bild. Diese Anwendung musste oft als Beweis dafür herhalten, dass die KI dem Menschen – selbst Experten – überlegen sei, dass sie auch in Lebensbereiche vorzudringen vermöge, die weit jenseits der Technik liegen, und dass sie überall segensreiche Wirkungen entfaltet.

Nun aber hat das Ideal einen Knacks. Eine neuere Studie, veröffentlicht im Fachblatt “Lancet Gastroenterology and Hepatology”, hat gezeigt: Ärzte, die monatelang regelmäßig ein KI-Tool nutzten, das in den Aufnahmen einer Darmspiegelung verdächtige Stellen mit einem roten Rechteck einkreiste, verlernten zu einem bestimmten Grad, diese Stellen selbst zu erkennen. Deskilling heißt das Phänomen im Englischen, was man frei als Verlernen oder Fähigkeitsverlust übersetzen könnte. In den drei Monaten vor Einführung der Technologie entdeckten die Ärzte bei etwa 28 Prozent der Darmspiegelungen Wucherungen. Danach fiel ihre Entdeckungsrate auf etwa 22 Prozent – deutlich unter dem Ausgangswert.

Das Problem ist so neu nicht, man kennt es bereits aus anderen Bereichen. So brauchen etwa auch Piloten im Zeitalter des Autopiloten spezielle Trainings, um das manuelle Fliegen nicht zu verlernen, das in Extremsituationen überlebenswichtig sein kann. In anderen Fällen kann das Deskilling harmlos sein: Vor dem Jahr 1816, in dem der französische Arzt René Théophile Hyacinthe Laennec das Stethoskop erfand, legte der Arzt sein Ohr auf die Brust des Patienten. Das Abhören auf diese Art wird wohl kein heutiger Arzt mehr beherrschen, und das findet wohl niemand weiter schlimm.

Das Deskilling in der Krebserkennung aber kann schlimm sein. Wer soll Fehler der KI erkennen, wenn der Mensch verlernt hat, die Aufgabe selbst zu bewältigen, die er ihr übertragen hat? KI wird immer Überwachung durch Menschen brauchen, Anleitung, Anpassung an neue Gegebenheiten. Das erfordert Menschen mit der Kompetenz, die Ergebnisse der künstlichen Intelligenz zu beurteilen.

Aber selbst wenn KI hundertprozentig perfekt wäre: Was, wenn sie ausfällt, was jedem technischen System passieren kann? Was, wenn in einer Übergangszeit, in der sie noch nicht flächendeckend im Einsatz ist, ein neuer Arbeitgeber von dem KI-gewohnten Arzt verlangen würde, die Diagnose manuell zu stellen? Was, wenn dem Arzt gar nicht aufgefallen ist, dass er die Fähigkeit dazu verloren hat? Kann er überhaupt noch die kognitive Ausdauer aufbringen, die eine Begutachtung der Scans erfordert? Die Ärzte in der Studie hatten im Durchschnitt 27 Jahre Berufserfahrung. Kollegen am Anfang ihrer Karriere, die in der Auswertung der Bilder noch ungeübt sind, würden es erst gar nicht lernen. Wie gefährlich wäre das für Patienten?

Sicher stehen wir dem Problem nicht hilflos gegenüber. Diagnosen ohne KI-Hilfe müssten eben immer wieder speziell geübt werden. Das setzt aber zumindest eine Erkenntnis voraus: Auch der Einsatz von KI hat einen Preis und selbst der lauterste Zweck eine Kehrseite.

Jens-Christoph Brendel

Stellv. Chefredakteur