Auf den Punkt: Das NCSC empfiehlt Sandboxing, Schutzmaßnahmen und aktive Aufsicht, um die Cyberrisiken autonom handelnder KI-Agenten zu begrenzen.
Das britische National Cyber Security Centre (NCSC) hat einen Blogbeitrag veröffentlicht, der Unternehmen empfiehlt, autonome KI-Agenten durch Schutzmaßnahmen, Sandboxing und aktive Überwachung abzusichern. Ziel ist es, den Nutzen agentischer Systeme zu erschließen und gleichzeitig unbeabsichtigte Aktivitäten einzudämmen.
Das NCSC thematisiert in seinem aktuellen Blogbeitrag den Umgang mit den Cyberrisiken agentischer KI-Systeme – also KI-Agenten, die eigenständig Handlungen ausführen, Entscheidungen treffen und Aufgaben ohne durchgängige menschliche Steuerung erledigen können. Als zentrale Gegenmaßnahmen nennt die Behörde drei Ansätze: den Einsatz von Schutzmechanismen (Safeguards), die technische Isolation solcher Systeme durch Sandboxing sowie eine aktive, kontinuierliche Aufsicht über deren Verhalten.
Für CISOs verschiebt sich mit agentischer KI die Risikooberfläche: Anders als klassische, deterministisch gesteuerte Software können autonome Agenten Aktionen ausführen, die von Entwicklern nicht explizit vorgesehen wurden. Das betrifft insbesondere Zugriffsrechte, Systemintegrationen und die Ausführung von Aktionen mit realen Konsequenzen, etwa Datei- oder Datenzugriffe, API-Aufrufe oder Interaktionen mit anderen Diensten. Ohne geeignete Isolation und Überwachung steigt das Risiko, dass ein Agent unbeabsichtigt oder durch Manipulation (z. B. Prompt Injection) schädliche oder ungewollte Aktionen auslöst.
Sandboxing begrenzt den Handlungsspielraum eines Agenten technisch auf eine kontrollierte Umgebung mit eingeschränkten Rechten, sodass potenzieller Schaden im Fehlerfall begrenzt bleibt. Aktive Aufsicht bedeutet in diesem Kontext eine laufende Überwachung von Agentenverhalten und -entscheidungen, um Abweichungen frühzeitig zu erkennen und einzugreifen, statt sich allein auf einmalige Vorab-Prüfungen zu verlassen. Für Sicherheitsverantwortliche in Unternehmen, die den Einsatz agentischer KI evaluieren oder bereits pilotieren, liefert der Beitrag damit eine Grundlage, um Governance-Anforderungen, Rechteverwaltung und Monitoring-Prozesse für solche Systeme frühzeitig in die Risikobewertung einzubeziehen.
Quelle: www.ncsc.gov.uk · Erschienen 20. August 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.8.3.