© vladirina32 / 123rf.com

Prompt Injection ist die derzeit gefährlichste Angriffstechnik gegen LLMs. Eine hundertprozentige Absicherung dagegen gibt es nicht. Wohl aber Maßnahmen, die Attacken erschweren und verteuern können.

Wachsende Angriffsflächen und steigender Schweregrad bei Attacken – das ist die Schattenseite der schönen neuen Welt agentischer KI. Im Auftrag des Nutzers plant sie autonom Lösungswege, benutzt Werkzeuge und greift nicht zuletzt auf alle möglichen – auch privaten – Daten zu.

Große Sprachmodelle (LLMs) wie ChatGPT, Claude oder Gemini treiben die KI-Agenten an. Beide entwickeln sich derzeit in rasantem Tempo weiter, während Cyberkriminelle sich bemühen, Schritt zu halten. Sie suchen ständig nach neuen Schwachstellen und Sicherheitslücken. Wir werfen zunächst einen Blick darauf, welche Angriffe derzeit eine besonders wichtige Rolle spielen. Außerdem nehmen wir unter die Lupe, welche Eigenschaften der Modelle böswillige Hacker dafür ausnutzen.

Dadurch wird ein grundlegendes Verständnis für die Verwundbarkeit von LLMs geschaffen. Das wiederum hilft, sowohl aktuelle als auch neue Bedrohungen einzuschätzen, Sicherheitsmaßnahmen zu bewerten sowie das eigene Risiko beim Einsatz von LLMs und den darauf aufbauenden KI-Agenten zu analysieren.

Large Language Modelle

Der riesige Erfolg von ChatGPT und ähnlichen Chatbots, die große Sprachmodelle verwenden, beruht auf der Transformer-Architektur, die Ashish Vaswani und andere unter dem Titel “Attention Is All You Need” [1] eingeführt haben. Die entscheidende Neuerung besteht in der Kombination von Schichten eines neuronalen Feed-Forward-Netzes mit Attention-Schichten. Dadurch sind Transformer besser als alle früheren Modelle in der Lage, Inhalte in natürlicher Sprache zu interpretieren und zu verarbeiten.

Das LLM erhält seine ...

[...]
Linux-Magazin Online veröffentlicht alle Print-Artikel, die seit 2001 im Linux-Magazin erschienen sind. Damit steht Ihnen ein hochwertig bestücktes Archiv bis hin zu den Beiträgen der aktuellen Ausgabe online zur Verfügung. Die über 4.000 Artikel sind größtenteils kostenlos zugänglich, nur für Beiträge (als PDF) der jüngsten zehn Linux-Magazine ist eine kleine Gebühr fällig.