Auf den Punkt: Die Angriffstechnik "CoSnitch" zeigt, dass sich Microsoft Copilot per Prompt-Manipulation dazu bringen laesst, Informationen ueber seine eigene Sicherheitsarchitektur preiszugeben.
Sicherheitsforscher haben eine als "Meta-Hacking" bezeichnete Methode demonstriert, mit der sich Microsoft Copilot dazu bringen laesst, Informationen ueber seine eigene Sicherheitsarchitektur offenzulegen. Die Technik zeigt, dass KI-Dienste selbst zum Angriffsziel werden koennen, wenn sie ueber ihre internen Schutzmechanismen befragt werden.
Nach Angaben der Forscher, die die als „CoSnitch“ bezeichnete Angriffstechnik entwickelt haben, laesst sich Copilot durch gezielte Prompt-Manipulation dazu verleiten, Details ueber seine zugrunde liegende Sicherheitsarchitektur preiszugeben. Der Ansatz wird als „Meta-Hacking“ eingeordnet, weil er nicht direkt auf Daten oder Zugangsdaten zielt, sondern den KI-Dienst dazu bringt, Auskunft ueber seine eigenen Schutzmechanismen und Schwachstellen zu geben.
Fuer Sicherheitsverantwortliche ist dieser Fall relevant, weil er ein Muster aufzeigt, das ueber klassische Prompt-Injection-Angriffe hinausgeht: Statt Copilot zur Preisgabe von Unternehmensdaten zu bewegen, wird das System als Aufklaerungswerkzeug gegen sich selbst eingesetzt. Informationen ueber die eigene Architektur und Sicherheitslogik koennen Angreifern als Grundlage fuer weiterfuehrende, gezieltere Attacken dienen, etwa um bestehende Schutzmassnahmen gezielt zu umgehen.
Die Originalquelle nennt keine technischen Details zur konkreten Umsetzung der Angriffskette, keine betroffenen Copilot-Versionen und keine Angaben dazu, ob Microsoft die Schwachstelle bereits adressiert hat. CISOs, die Copilot oder aehnliche generative KI-Dienste im Unternehmen einsetzen, sollten den Vorfall dennoch zum Anlass nehmen, Monitoring- und Guardrail-Mechanismen fuer KI-Assistenten zu ueberpruefen, insbesondere im Hinblick auf Anfragen, die auf Systeminterna statt auf Nutzdaten abzielen.
Quelle: www.darkreading.com · Erschienen 18. August 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.8.3.