Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat seine Publikation zu Chancen und Risiken großer KI-Sprachmodelle in deutscher und englischer Sprache aktualisiert.
Das 36-seitige Dokument adressiert primär Unternehmen und Behörden, die LLMs in ihre Arbeitsabläufe integrieren möchten und kann als Grundlage für eine Risikoanalyse genutzt werden.
Mit der nun veröffentlichten aktuellen Fassung hat das Dokument eine Umstrukturierung erfahren. Die Risiken seien nun unterteilt in Risiken aufgrund ordnungsgemäßer Nutzung, Risiken aufgrund missbräuchlicher Nutzung und Risiken, die aus Angriffen auf das LLM resultieren, teilt das BSI mit. Gleichzeitig seien weitere Gegenmaßnahmen identifiziert und mit den entsprechenden Risiken tabellarisch verknüpft worden.
Die Umstrukturierung schaffe zudem die Möglichkeit, künftig neben texterzeugenden KI-Modellen auch solche zu integrieren, die andere Medien verarbeiten und ausgeben. Das könnten etwa Videos, Bilder oder Audio-Dateien sein. Das Dokument Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden steht zum Download bereit.
