Die Angst vor den Agenten

(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com

(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com

Einer kürzlich durchgeführten Umfrage von Cisco zufolge laufen in 85 Prozent aller Betriebe Pilotprojekte mit KI-Agenten, aber nur 5 Prozent der Unternehmen setzen sie produktiv ein.

Die 80-Prozent-Lücke hat eine Ursache: Mangelndes Vertrauen. Wenn ein Chatbot vor drei Jahren eine falsche Antwort gab, dann war das peinlich. Wenn ein KI-Agent heutzutage eine falsche Aktion ausführt, kann das existenzbedrohende, unumkehrbare Konsequenzen haben.

Ciscos Chief Product Officer Jeetu Patel gab dem Portal Venture Beat anlässlich der RSA Conference 2026, auf der er auch eine Keynote hielt, ein Interview. Er vergleicht KI-Agents mit Teenagern: “Sie sind äußerst intelligent, aber sie haben keine Angst vor den Konsequenzen. Sie sind ziemlich unreif. Und sie lassen sich leicht ablenken oder beeinflussen. Man muss dafür sorgen, dass es Leitplanken gibt und dass die Agenten eine gewisse Aufsicht haben.”

Ciscos Antwort auf das Dilemma ist Software, die die Agenten vor der Welt und die Welt vor den Agenten schützen und dabei in Echtzeit Bedrohungen erkennen und abstellen soll. Dafür hat Cisco seinen Skills Scanner, den MCP Scanner, das AI-Bill-of-Materials-Tool und CodeGuard in einem einzigen Open-Source-Framework namens Defense Claw gebündelt und innerhalb von 48 Stunden in Nvidias OpenShell integriert.

E-Mail Benachrichtigung
Benachrichtige mich zu:
0 Kommentare
Älteste
Neuste Beste Bewertung
Inline Feedbacks
Alle Kommentare anzeigen
Nach oben