Auf den Punkt: Unternehmen müssen ihre Sicherheitsrichtlinien grundlegend an die Autonomie von KI-Systemen anpassen und für jede Reifegrad-Stufe (Assistent, Agent, Operator) differenzierte Governance-Kontrollen etablieren.
Während Unternehmen KI-Tools vom reinen Assistenten hin zu autonomen Agenten ausbauen, hinken Sicherheits- und Governance-Praktiken hinterher. Die bisherige Kontrolle nach dem Assistenten-Prinzip reicht nicht mehr aus, wenn KI-Systeme eigenständig mit Zugriffsrechten und sensiblen Daten operieren.
Seit der Veröffentlichung von ChatGPT vor knapp vier Jahren wächst die Kluft zwischen der Verbreitung von KI-Tools und reifen Sicherheitsstrukturen. Nutzer laden routiniert Unternehmensdaten, Finanzunterlagen und Gesundheitsinformationen in Large Language Models, oft ohne formale Genehmigung oder Sicherheitsüberprüfung. Bislang blieb das Risiko bei vielen Organisationen ohne katastrophale Konsequenzen bestehen — doch das ist kein Beleg für sichere Praktiken.
Der Übergang von assistiver zu autonomer KI-Nutzung ändert das Risikoprofil grundlegend. Stephen Wilson, Field Chief Technology Officer bei HashiCorp (IBM), unterscheidet drei Reifegrade: (1) KI als Assistent — der Mensch bleibt in Kontrolle und validiert jeden Output; (2) KI als Agent — das System führt Aufgaben teilweise eigenständig durch, etwa indem es zwischen mehreren KI-Systemen Arbeit delegiert; (3) KI als Operator — weitgehend autonome Systeme treffen Entscheidungen mit minimaler menschlicher Überwachung. Das Problem: Organisationen aktualisieren ihre Governance-Modelle nicht entsprechend.
Im Assistenten-Modus präsentieren sich die Gefahren bereits deutlich. Privilegierte Nutzer geben leicht API-Schlüssel, Datenbankanmeldungen oder Zugriffstoken in Prompts ein, ohne zu bemerken, dass die LLM-Kontextfenster diese sensiblen Daten speichern und an Dritte weitergeleitet werden könnten. Hier braucht es eine strikte Identitäts-Abgrenzung: der Mensch behält seine Privilegien, die Maschinen-Identität erhält nur minimale, für die Aufgabe notwendige Rechte.
Agenten erfordern ein Stufenmodell für Zugriffskontrolle. Verschiedene Agenten brauchen unterschiedliche Berechtigung; jeder Agent benötigt eine nachvollziehbare Identität und ein Audit-Trail. Diese Agenten-Identitäten müssen verwaltet, ihre Zuverlässigkeit für Kernaufgaben kontinuierlich bewertet werden. Erst dann kann ein Unternehmen sicher von der menschlichen Supervision abweichen und Agenten hintereinander arbeiten lassen — beispielsweise einen Schreib-Agenten, der an einen Redaktions-Agenten übergeben.
Die größte Herausforderung liegt im nächsten Schritt: KI-Operatoren, die eigenständig geschäftskritische Entscheidungen treffen oder auf Systeme zugreifen. Hier ist noch keine etablierte Norm für Governance vorhanden. Es wird entscheidend sein, klar definierte Grenzen zu setzen, wann ein Operator eingreifen darf, welche Eskalationspfade existieren und wer letztlich verantwortlich ist, wenn ein autonomes System im Namen der Organisation handelt.
Quelle: www.csoonline.com · Erschienen 6. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.