Auf den Punkt: CISOs sollten agentic AI nicht grundsätzlich ablehnen, sondern durch vier Kontrollfragen (Dateneingaben, Aktionen, Schadensausmaß, Observabilität) legible Risiken schaffen und gezielt begrenzen.
Agentic-AI-Systeme verbreiten sich in Unternehmen schneller, als Sicherheitsteams sie kontrollieren können. Anthropic hat einen Rahmen entwickelt, um diese Risiken messbar und begrenzt zu halten, statt sie durch pauschale Verbote in den Schatten zu treiben.
Agentic-AI-Anwendungsfälle entstehen schneller als Governance-Strukturen sie einholen können. Der klassische Ansatz, solche Einsätze zu verbieten, führt zu Shadow-Adoption ohne Telemetrie und ohne Kontrollmöglichkeiten. Zustimmung ohne Schutzmaßnahmen hingegen verursacht Incidents, die ein AI-Programm nachhaltig beschädigen können. CISOs benötigen daher eine dritte Position: Agentic Risk legible und gebunden machen, damit das Unternehmen bewusst akzeptable Risiken eingehen kann und nicht an IT-Vorgaben vorbeigehen muss.
Die Risikolandschaft spaltet sich in zwei Bereiche. Extern wachsen durch Frontier Models wie Claude Mythos Preview und Claude Mythos 5 die Bedrohungen: Diese Systeme finden schwerwiegende Sicherheitslücken in etablierter Software (OpenBSD, Linux Kernel, Mozilla Firefox), die Jahre verborgen blieben. Sie verkürzen den Weg von bekannter Schwachstelle zu automatisiertem Exploit drastisch. Intern entstehen Risiken vor allem durch Datenlecks bei der Vernetzung von Systemen über schlecht überwachte persönliche Agenten und durch Prompt Injection, wenn Angreifer versteckte Instruktionen in Inhalte einbetten, die ein Agent verarbeitet. Zwar widerstehen moderne Modelle Injections zunehmend besser, doch die Quote ist nicht Null.
Anthropic schlägt einen vierstufigen Bewertungsprozess vor. Für jeden Agentic-Use-Case wird geklärt: (1) Welche Inhalte nimmt der Agent auf, die ein Angreifer kontrollieren könnte (E-Mails, Web-Inhalte, Drittanbieter-Dokumente)? (2) Welche Aktionen kann er ausführen und in welcher Identität — Read-Only unterscheidet sich fundamental von Read/Write, Dateioperationen oder Netzwerkzugriff? (3) Wie groß ist der Schadensraum bei Misalignment oder Missbrauch (wenige Dateien oder ganze Organisation, Anomalie oder echter Incident)? (4) Welche Observabilität existiert — lassen sich Agent-Aktionen von User-Aktionen unterscheiden, landen sie im SIEM?
Aus diesen vier Antworten ergibt sich ein Risikobild. Der Grundsatz der minimalen Agency gibt dann vor, wie darauf zu reagieren ist: nur so viele Befugnisse erteilen, wie für die Aufgabe nötig. Anthropics Standard ist Admin-Paced Rollout: kleine Gruppe aktivieren, Verhalten beobachten, progressiv skalieren. So wird agentic AI zur kontrollierten Geschäftskapazität statt zum unkontrollierten Faktor.
Quelle: claude.com · Erschienen 16. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.