Auf den Punkt: Von 100 getesteten KI-Agenten bieten nur 11 ein akzeptables Verhältnis zwischen Leistung und Sicherheit; 98 % weisen die gleiche kritische Kombination aus breitem Datenzugriff, fehlender Eingabekontrolle und unkontrollierter Autorisierung auf.
Adversa AI hat 100 autonome KI-Agenten analysiert und dabei erhebliche Sicherheitsmängel dokumentiert: Nur 11 der untersuchten Systeme erfüllen gleichzeitig Leistungsanforderungen und Schutzstandards. Das Risiko liegt strukturell in der kombinierten Gefahr aus Zugriff auf sensible Daten, Verarbeitung unvertrauenswürdiger Inhalte und eigenständiger Autorisierung für externe Aktionen.
Das Sicherheitsunternehmen Adversa AI hat eine Analyse von 100 autonomen KI-Agenten durchgeführt und diese in zehn Kategorien untersucht: allgemeine Assistenten, Workplace-Copiloten, Browser- und Konversationssysteme, maßgeschneiderte Workflows, Plattformbetrieb, Datentechnik, Computer- und Programmieragenten. Das zentrale Ergebnis: Nur 11 Agenten gelten als gleichzeitig leistungsfähig und hinreichend gegen Angriffe geschützt. 98 % der getesteten Systeme zeigen eine identische Konstellation von Schwächen: unbegrenzter Zugriff auf private Daten, Verarbeitung von Inhalten unsicherer Quellen und Befugnis zur Durchführung ausgehender Aktionen ohne angemessene Kontrolle.
Bei Computer- und Programmieragenten ist das Risiko besonders kritisch. Computer-Agenten erhalten zum funktionsfähigen Betrieb umfassende Betriebssystem-Zugriffe, was bei erfolgreicher Kompromittierung zu vollständiger Rechner-Kontrolle führt. Ein grundlegendes Problem ist die fehlende Transparenz: Nutzer sehen nur Eingabe und Ergebnis, nicht die dazwischen liegenden Aktionen. Selbst integrierte Bestätigungsdialoge bieten keinen zuverlässigen Schutz, da Menschen und KI-Modelle auf unterschiedlichen Abstraktionsebenen operieren und die tatsächlichen Systemaktionen missverstanden werden können. Bei Coding-Agenten ist die Angriffsfläche besonders groß: Sie greifen nicht nur auf Code-Vorschläge zu, sondern direkt auf Shell-Befehle, Abhängigkeiten und Authentifizierungs-Token. Konventionelle Code-Reviews am Ende des Prozesses schützen unzureichend, da der Agent bereits vor Überprüfung Geheimnisse abgerufen, Tests gegen Produktionssysteme ausgeführt oder Konfigurationen geändert haben kann. Die Werkzeugausführung macht laut Report 76 % des potenziellen Schadensradius aus.
Adversa AI dokumentiert ein strukturelles Marktmerkmal: „Dieselben Anbieter, die die leistungsfähigsten Agenten ausliefern, liefern auch die größte Angriffsfläche.“ 83 % der von Herstellern behaupteten Schutzmaßnahmen sind nicht öffentlich überprüfbar. Die Analyse empfiehlt eine strategische Neuausrichtung des Sicherheitskonzepts weg von der Eingabekontrolle – Prompt-Injection kann wegen des nicht-deterministischen Charakters von KI-Modellen nicht dauerhaft verhindert werden – hin zu strikten Ausgabekontrollen. Dies umfasst Überwachung des Datenflusses (Egress-Kontrolle) sowie restriktive Richtlinien für Identitäts- und Autorisierungsverwaltung.
Quelle: www.it-daily.net · Erschienen 8. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.6.5.