Auf den Punkt: AI-Infra-Guard behandelt die fragmentierte Angriffsfläche von KI-Agenten durch schichtspezifische Sicherheitsparadigmen: Regel-Matching für Infrastruktur, LLM-Audits für Protokolle und Behavioral-Testing für Agent-Verhalten.
Forscher präsentieren AI-Infra-Guard, ein Open-Source-Framework zur Sicherung von KI-Agenten über mehrere architektonische Ebenen hinweg. Das Tool kombiniert regelbasierte Schwachstellenerkennung, LLM-gestützte Protokollprüfung und Black-Box-Red-Teaming und zielt damit auf eine Sicherungslücke in der schnell wachsenden KI-Infrastruktur-Landschaft.
Die Angriffsfläche moderner KI-Agenten erstreckt sich über vier Ebenen: Infrastruktur (Model Serving, Agent Platforms), Protokolle und Tools (Model Context Protocol, MCP), Agent-Verhalten und die zugrundeliegenden Sprachmodelle selbst. Bisherige Sicherungswerkzeuge adressieren diese Ebenen isoliert, was zu Lücken in der praktischen Schutzabdeckung führt.
AI-Infra-Guard organisiert Red-Teaming-Aktivitäten um die zentrale Einsicht, dass jede Schicht ein anderes Detektionsparadigma erfordert. Das Framework integriert deterministisches Rule-Matching über 75+ KI-Komponenten und mehr als 1.400 Schwachstellenregeln, LLM-getriebenes agentengestütztes Auditing von MCP-Servern und Agent-Skill-Paketen sowie Multi-Turn-Black-Box-Red-Teaming gegen Agent-Verhalten selbst. Hinzu kommt ein Jailbreak-Test-Harness mit über 26 Angriffsoperatoren über sechzehn Datensätze.
Besonderheit des Ansatzes ist die Supply-Chain-Überprüfung von Agent-Skills — Erweiterungen, die zunehmend die Funktionalität von KI-Agenten erweitern und damit neue Angriffswege schaffen. Dies macht das Framework nach Angaben der Autoren zur einzigen Open-Source-Lösung, die alle Schichten umfassend abdeckt. Das System steht der Community als Open Source zur Verfügung, um eine gemeinsame Grundlage für Agent-Sicherheit zu schaffen.
Quelle: arxiv.org · Erschienen 29. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.