© Ariawan Yuli Armoko / 123RF.com

Agentische LLM-Systeme stellen besondere Herausforderungen an die Sicherheit. Insbesondere besteht das Risiko, dass ein Angriff über versteckte Anweisungen erfolgt und das LLM dadurch sensible Daten weitergibt. Es gilt, dieses Risiko durch explizite Maßnahmen zu mindern.

Agentische Large Language Models (LLMs) bieten eine radikal neue Möglichkeit zur Entwicklung von Software, indem sie ein ganzes Ökosystem von Agenten über eine ungenaue Konversation koordinieren. Das ist eine gänzlich neue Arbeitsweise, die jedoch auch erhebliche Sicherheitsrisiken mit sich bringt, insbesondere durch manipulierte Prompts. Ein Blogpost [1] des renommierten Sicherheitsspezialisten Bruce Schneier verdeutlicht die Probleme: “Wir wissen einfach nicht, wie wir uns gegen diese Angriffe verteidigen sollen. Wir haben keine agentenbasierten KI-Systeme, die vor solchen Angriffen sicher sind. Jede KI, die in einer feindlichen Umgebung arbeitet – die also auf nicht vertrauenswürdige Trainingsdaten oder Eingaben stoßen kann –, ist anfällig für Prompt-Injection. Es handelt sich um ein existenzielles Problem, das, soweit ich das beurteilen kann, die meisten Entwickler dieser Technologien einfach ignorieren.”

Um diese Risiken im Blick zu behalten, durchforsten die Autoren Forschungsartikel, die mit einem tiefen Verständnis für moderne LLM-basierte Tools verfasst wurden und eine realistische Sicht auf die Risiken bieten, und fassen ihre Erkenntnisse regelmäßig in einem Blog [2] zusammen. Es ist das Ziel, einen leicht verständlichen praktischen Überblick über Sicherheitsprobleme und Abhilfemaßnahmen im Zusammenhang mit agentenbasierten LLMs zu geben.

Dieser Artikel soll die entsprechenden Überlegungen einem breiteren Publikum zugänglich machen. Der Inhalt stützt sich unter anderem auf umfangre...

[...]
Linux-Magazin Online veröffentlicht alle Print-Artikel, die seit 2001 im Linux-Magazin erschienen sind. Damit steht Ihnen ein hochwertig bestücktes Archiv bis hin zu den Beiträgen der aktuellen Ausgabe online zur Verfügung. Die über 4.000 Artikel sind größtenteils kostenlos zugänglich, nur für Beiträge (als PDF) der jüngsten zehn Linux-Magazine ist eine kleine Gebühr fällig.