Autonome KI-Agenten sind anfällig für versteckte Prompt-Injektionen in Webinhalten, und Safety-Training bietet keinen ausreichenden Schutz – besonders kritisch bei Agenten mit finanziellen oder prozessualen Berechtigungen.
Prompt-Injection-Angriffe können durch KI-gesteuerte Entwicklungstools klassische Sandbox-Schutzmaßnahmen überwinden und zu lokaler Codeausführung führen.
Ein neu dokumentiertes Prompt-Injection-Verfahren manipuliert KI-Browser durch fiktive Spielszenarien, um ihre Sicherheitsfilter zu deaktivieren und Zugangsdaten zu stehlen; OpenAI hat gepatcht, andere Anbieter nicht.
Logische Fehler in Cursors Sandbox-Isolation ermöglichen Prompt-Injection-Angreifern Remote Code Execution ohne Benutzeraktion; Patches stehen seit April zur Verfügung.
LLMs und KI-Agenten werden durch Prompt-Injection und Jailbreak-Techniken zur Preisgabe von Daten oder zur Ausführung schädlicher Funktionen verleitet.
BioShocking-Angriffe nutzen narrative Framing, um KI-Browser zur Ausführung unsicherer Aktionen zu manipulieren, indem sie diese als fiktional darstellen.
Vergiftete Beschreibungen in Model Context Protocol (MCP)-Werkzeugen ermöglichen es Angreifern, KI-Agenten zur Datenweitergabe zu missbrauchen, während Sicherheitskontrollmechanismen stumm bleiben.
