Auf den Punkt: Microsoft warnt CTOs vor sieben neuen Angriffsmustern auf KI-Agenten: von natürlichsprachigen Injektionen über Goal Hijacking bis zu visuellen Attacken auf Computer-Use-Agenten.
Microsoft hat sieben zusätzliche Fehlermodi in agentic AI-Systemen identifiziert und damit seine im Vorjahr veröffentlichte Taxonomie erweitert. Die neuen Angriffsvektoren entstanden durch die schnelle Verbreitung der Technologie, das Wachstum des Model Context Protocol und verstärkte empirische Forschung.
Microsoft hat eine aktualisierte Taxonomie der Fehlermodi in agentic AI-Systemen veröffentlicht und identifiziert dabei sieben neue Angriffsszenarien. Diese erweitern die bereits 2024 dokumentierten Schwachstellen. Der Katalog wächst, da agentic AI inzwischen produktiv eingesetzt wird, das Model Context Protocol (MCP) ökosystemisch reift und Computer-Use-Agenten an Bedeutung gewinnen.
Die sieben neuen Fehlermodi lauten im Einzelnen: (1) Agentic Supply Chain Compromise — das Verhalten von Agenten wird durch natürlichsprachige Eingaben manipuliert, ohne dass Malware nötig ist; (2) Goal Hijacking — Adversarial Instructions erscheinen legitim, leiten den Agenten aber still zu anderen Zielen um; (3) Inter-Agent Trust Escalation — ein kompromittierter Agent täuscht dem Orchestrator falsche Identität oder höhere Berechtigungen vor; (4) Computer Use Agent (CUA) Visual Attack — Agenten mit grafischer Schnittstelle werden durch Inhalte mit adversarialen Anweisungen manipuliert; (5) Session Context Contamination — ein Angreifer führt Daten ein, die das Reasoning in Folgeschritten verzerren, ohne dabei einzelne Sicherheitskontrollen auszulösen; (6) MCP / Plugin Abuse — eine Vertiefung der ursprünglichen Taxonomie zu Funktions-Kompromittierung speziell bei MCP- und Plugin-Protokollen; (7) Capability / Architecture Disclosure — Agenten offenbaren interne Details wie Tool-Namen, Schemas, System-Prompt-Struktur oder Logik für Human-in-the-Loop.
Microsoft empfiehlt Security-Teams konkrete Maßnahmen: Inventarisierung der Supply Chain, Erstellung einer Software Bill of Materials (SBOM) für jeden deployteten Agenten, kryptographische Identitätsprüfung statt positionsbasierter Verfahren durch attestierbare Credentials, Integration der sieben neuen Fehlermodi in Red-Team-Pläne sowie Audit des Human-in-the-Loop als Sicherheitskontrolle.
Quelle: www.csoonline.com · Erschienen 5. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.6.5.