Auf den Punkt: Sicherheitsarchitekturen müssen sich neu ausrichten: Agenten benötigen eindeutige Identitäten, strikte Zugriffskontrolle auf Modelle, Daten und Tools, sowie zentrale Kontrollpunkte – sonst entsteht unkontrollierbare Schatten-IT mit erheblichem Missbrauchspotenzial.
KI-Agenten, die autonom recherchieren, entscheiden und handeln, werden zur kritischen Cyberbedrohung, weil traditionelle Sicherheitsarchitekturen für diese Systeme nicht ausgelegt sind. Innerhalb von 12 bis 24 Monaten werden die meisten Unternehmen mehr maschinelle als menschliche Identitäten haben – sind aber unvorbereitet auf deren Schutz.
Der Wandel von interaktiven Sprachmodellen hin zu autonomen Agenten verändert grundlegend, wie Unternehmen Zugriffe verwalten und schützen müssen. Nicht länger ein Mitarbeiter meldet sich an oder fragt eine Datenbank ab – ein Agent führt diese Aufgaben im Namen des Mitarbeiters aus. Das stellt die klassische Frage „Wer hat auf was zugegriffen?“ in den Schatten gegenüber: „Welcher Agent hat auf was zugegriffen, mit wessen Befugnis und unter welchen Einschränkungen?“
Die meisten Sicherheitsarchitekturen wurden für menschliche Nutzer entwickelt und kontrollieren Datenverkehr zwischen Person und Anwendung über Browser, Laptops und Netzwerke. Agenten aber agieren oft serverseitig, rufen Modell-APIs direkt auf und greifen via Service-Anmeldedaten auf interne Systeme zu – häufig außerhalb etablierter Kontrollpunkte. Das bedeutet: Fehlende Durchsetzung von Richtlinien, Lücken in der Protokollierung und keine konsistente Datenschutzkontrolle. Wenn Agenten ohne Sichtbarkeit durch Sicherheitsteams operieren, entsteht eine neue Form unkontrollierter Schatten-IT mit erheblichem Risiko.
Die Angriffsvektoren folgen einem wiederkehrenden Muster: Das Modell wird manipuliert, die Tools führen die (bösartigen) Befehle aus. Effektiver Schutz verlangt daher, Denken vom Handeln zu trennen – die KI als „Gehirn“ und die Tools als „Hände“ separat zu sichern. Wird nur das Modell geschützt, bleiben die Ausführungswerkzeuge angreifbar.
Konkrete Maßnahmen zur Kontrolle: (1) Jedem Agenten eindeutige Identität mit eigenen Anmeldedaten zuweisen – nicht: geteilte API-Schlüssel pro Team. (2) Least-Privilege-Prinzip in drei Dimensionen durchsetzen: Modelle, Daten, Tools. Agenten erhalten nur Zugriff auf das für ihre Aufgabe Notwendigste. (3) KI-Gateways als zentrale Kontrollstellen etablieren, um einheitliche Sicherheitsrichtlinien über alle Teams durchzusetzen. Solange Unternehmen ihre Agenten nicht kennen und nicht steuern, wachsen die Risiken schneller als der Produktivitätsgewinn.
Quelle: www.it-daily.net · Erschienen 30. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.