Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat einen ersten Prüfkatalog für Künstlichen Intelligenz im Finanzbereich veröffentlicht.
Der in englischer Sprache verfasste Test Criteria Catalogue for AI Systems in Finance (PDF) hat zum Ziel, Sicherheit, Transparenz, Nachvollziehbarkeit und Fairness von KI-Systemen systematisch bewerten zu können.
Der Katalog wurde im Rahmen des Projekts AICRIV (AI Criteria Definition and Validation) entwickelt und umfasst knapp 100 praxisnahe Testkriterien. Diese decken laut BSI unter anderem die Bereiche IT-Sicherheit, Datenqualität, Modellrobustheit, Governance, menschliche Aufsicht und Performance ab. Ergänzt werde der Katalog durch Empfehlungen zu geeigneten Prüfmethoden und -werkzeugen. Die Anforderungen orientieren sich an bestehenden Standards und Regularien und unterstützen zugleich die Umsetzung der Vorgaben der KI-Verordnung der EU.
Der Katalog richte sich insbesondere an Entwickler, Anbieter, Betreiber und Prüforganisationen von KI-Systemen in der Finanzwirtschaft – könne aber auch für andere Sektoren als Orientierung dienen, teilt das BSI mit. Das Dokument soll als Unterstützung für die Umsetzung der KI-Verordnung fungieren.
