Europäische Unternehmen rollout KI-Agenten schneller aus als sie Governance-Rahmenbedingungen etablieren, was zu Sicherheitsvorfällen bei nicht-menschlichen Identitäten führt.
KI-Agenten benötigen dedizierte Sicherheitskonzepte jenseits traditioneller Zugriffskontrollen, um autonomes Fehlverhalten und Jailbreaking-Risiken zu mindern.
Ein Entwickler platzierte absichtlich Sabotage-Code in jqwik 1.10.0, um KI-Agenten zur Löschung von Code zu bewegen, was eine neue Sicherheitslücke in der Open-Source-Software-Lieferkette offenbarte.
Von 100 getesteten KI-Agenten bieten nur 11 ein akzeptables Verhältnis zwischen Leistung und Sicherheit; 98 % weisen die gleiche kritische Kombination aus breitem Datenzugriff, fehlender Eingabekontrolle und unkontrollierter Autorisierung auf.
KI-Agenten funktionieren nur zuverlässig mit umfassender Observability, die kausale Zusammenhänge in komplexen Systemen offenlegt – nicht durch Sprachmodelle allein.
Fünf Sicherheitslücken in Microsofts OpenClaw-Framework wurden zeitgleich mit der Scout-Vorstellung bekannt und erfordern umgehende Sicherheitsanalyse vor Enterprise-Deployments.
BraveGuard verbessert die Sicherheitserkennung in Computer-Use-Agenten durch kontinuierliches Lernen aus realen Bedrohungsmustern, statt aus statischen Benchmarks.
Runtime Identity bewertet Zugriffe nicht einmalig beim Login, sondern prüft situativ bei jeder Aktion neu, ob eine Identität die angestrebte Operation ausführen sollte.
