Quelle: BSI
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat seine Publikation zu Chancen und Risiken generativer KI-Modelle aktualisiert.
Das Dokument adressiert primär Unternehmen und Behörden, die generative KI-Modelle und darauf basierende Anwendungen, beispielsweise Chatbots mit Möglichkeiten zur Text- und Bildgenerierung, in ihre Arbeitsabläufe integrieren möchten. Es kann als Grundlage für eine Risikoanalyse im Rahmen des Informationssicherheitsmanagements genutzt werden, bei der Risiken identifiziert, bewertet und entsprechende Gegenmaßnahmen erarbeitet werden, teilt das BSI mit.
Im Zuge der Aktualisierung wurde die Publikation um Betrachtungen zu generativen KI-Modellen, die Bilder und Videos erzeugen können, erweitert. Diese umfassen sowohl eine Beleuchtung der Chancen im Kontext von Bild- und Videogeneratoren, als auch eine Untersuchung der Risiken, die schon bei ordnungsgemäßer Nutzung auftreten, sich aus einer missbräuchlichen Nutzung ergeben oder aus Angriffen resultieren können. Auch Gegenmaßnahmen, die das Handeln unterschiedlicher Akteure zu verschiedenen Zeitpunkten erfordern können, sind Bestandteil des Dokuments. Daneben wurden die Informationen zu großen KI-Sprachmodellen auf den aktuellen Stand gebracht.
