Ein Problem vieler KI-Anwendungen ist, dass sich nicht exakt nachvollziehen lässt, wie sie zu einer bestimmten Entscheidung gekommen sind. Hier will IBM nun für Abhilfe sorgen.
IBM hat dazu eine Software entwickelt, die in der IBM Cloud läuft und in Echtzeit Verzerrungen und Fehler in KI-Modellen erkennen soll. Außerdem erläutert sie die Entscheidungsfindung und empfiehlt automatisch Daten, die dem Modell hinzugefügt werden müssen, um erkannte Verzerrungen zu mildern. Die Software arbeitet mit Modellen, die auf einer Vielzahl von maschinellen Lernframeworks und KI-Build-Umgebungen wie Watson, Tensorflow, SparkML, AWS SageMaker und AzureML basieren. Das bedeutet, dass Anwender die Vorteile dieser neuen Kontrollen für die meisten der beliebten KI-Frameworks nutzen können.
Die Erklärungen sind leicht verständlich und zeigen, welche Faktoren die Entscheidung in die eine oder andere Richtung gelenkt haben, sowie wie verschiedene Faktoren gewichtet wurden. Auch die Aufzeichnungen über die Genauigkeit, Leistung und Fairness des Modells lassen sich leicht nachvollziehen.
Auslöser der Entwicklung war eine neue Untersuchungen des IBM Institute for Business Value, die zeigt, dass 82 Prozent der Unternehmen KI-Implementierungen in Betracht ziehen, 60 Prozent jedoch Haftungsfragen fürchten und 63 Prozent nicht über das nötige Know-how verfügen, um sich dabei selbst zu helfen.
