Auf den Punkt: Vera automatisiert Sicherheitstests für autonome KI-Agenten durch ein dreistufiges Verfahren aus Risikoentdeckung, Kombinatorik und evidenzgestützter Verifikation und zeigt dabei kritische Sicherheitsmängel in produktiven Agent-Frameworks auf.
Ein neues automatisiertes Testframework namens Vera systematisiert die Sicherheitsprüfung von KI-Agenten, die autonom externe Werkzeuge nutzen. Tests an vier Production-Agent-Frameworks offenbaren erhebliche Sicherheitslücken mit Erfolgsquoten von bis zu 93,9 % bei Multi-Channel-Angriffen.
Autonome KI-Agenten, die eigenständig über externe Werkzeuge handeln, bergen komplexe und dynamisch entstehende Sicherheitsrisiken. Bisherige Sicherheitstests konzentrieren sich auf von Experten vordefinierte Sicherheitsverletzungen und bewerten Ergebnisse über hartcodierte Regeln — ein Ansatz, der bei der Weiterentwicklung von Agenten schnell an seine Grenzen stößt. Ein Forscherteam präsentiert mit Vera ein Framework, das drei Phasen miteinander verbindet: (1) Literaturgestützte Exploration identifiziert kontinuierlich Risiken und strukturiert sie in Taxonomien von Sicherheitsrisiken, Angriffsmethoden und Tool-Ausführungsumgebungen. (2) Kombinatorische Zusammensetzung über Taxonomiedimensionen erzeugt ausführbare Testfälle, die jeweils ein konkretes Sicherheitsziel, einen programmatisch konstruierten Initialzustand und ein deterministisches Verifikationsprädikat spezifizieren. (3) Adaptive Ausführung startet heterogene Agenten in isolierten Sandbox-Umgebungen, wobei ein Kontroll-Agent mehrstufige Interaktionen anhand von Laufzeitbeobachtungen steuert und evidenzgestützte Verifizierer Ergebnisse aus Umgebungszustand und Tool-Call-Artefakten beurteilen — nicht aus Selbstaussagen des Modells.
Die Evaluierung von Vera an vier Production-Agent-Frameworks (OpenClaw, Hermes, Codex, Claude Code) enthüllt substantielle Sicherheitsmängel: Die durchschnittlichen Angriffserfolgquoten erreichen 93,9 % unter Multi-Channel-Angriffen. Parallel veröffentlichten die Forscher Vera-Bench, eine Benchmark mit 1.600 ausführbaren Testfällen, die 124 Risikokategorien über drei Ausführungsumgebungen abdecken.
Für CISOs und Sicherheitsverantwortliche ist dieses Framework relevant, weil es den Übergang von ad-hoc-Tests zu standardisierten, wartbaren Sicherheitsevaluierungen ermöglicht. Die hohen Angriffserfolgquoten deuten darauf hin, dass autonome Agenten in der aktuellen Form erhebliche Risiken für unternehmensinterne Prozesse darstellen — insbesondere wenn sie auf sensible Daten oder kritische Systeme zugreifen. Das Vera-Framework bietet eine modulare, skalierbare Basis, um Sicherheitsanforderungen an sich schnell verändernde agentenbasierte Systeme systematisch zu überprüfen und zu dokumentieren. Der Code steht öffentlich auf GitHub verfügbar.
Quelle: arxiv.org · Erschienen 3. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.