Auf den Punkt: Gezielt platzierte Prompts, die Content-Safety-Guardrails von LLMs auslösen, reduzieren die Erfolgsquote von automatisierten KI-Angriffen um bis zu 90 Prozent.
Die Sicherheitsfirma Tracebit hat eine Verteidigungstechnik gegen automatisierte KI-gesteuerte Cyberangriffe entwickelt, die gezielt Decoy-Dateien mit Prompts einsetzt, um die Sicherheitsrichtlinien von Large Language Models auszulösen und Angriffsabläufe zu unterbrechen.
Angreifer setzen zunehmend KI-Agenten ein, um alle Phasen von Cyberangriffen zu automatisieren. Die neue Verteidigungsstrategie funktioniert ähnlich wie klassische Canaries in der Cybersecurity — täuschend echte, aber nutzlose Ressourcen wie Fake-Dokumente, AWS-Zugriffsschlüssel oder DNS-Einträge, die Angreifer anlocken sollen. Der Unterschied: Statt nur einen Alert auszulösen, soll das sogenannte „Context Bombing“ den Angriff aktiv stoppen.
Die Technik nutzt die inhärente Anfälligkeit von LLMs für Prompt Injection aus. Malicious Prompts in Webseiten, E-Mails, Dokumenten oder Code-Kommentaren können KI-Agenten dazu bringen, unbefugt Aktionen auszuführen. Tracebit hat erprobt, solche Prompts gezielt zu platzieren — beispielsweise versteckt in einer Decoy-Secret oder einer Environment Variable. Wenn der angreifende KI-Agent diese Inhalte ausliest, triggert dies die Content-Safety-Guardrails des Modells. Das Modell bricht ab und weigert sich, fortzufahren; der Angriff kommt zum Stillstand.
In Tests im AWS-Umfeld erreichten KI-Modelle in Baseline-Szenarien bei 154 Angriffsläufen ohne Context Bombs zu 54 % Administrator-Zugriff und zu 36 % volle Kompromittierung (Admin + Persistence). Mit Context Bombs platziert sanken diese Quoten auf 5 % (Admin) und 1 % (volle Kompromittierung). Im Durchschnitt führten die Agenten ohne Verteidigung in 91 % der Versuche mindestens einen von zehn möglichen Angriffsweg erfolgreich aus — mit Context Bombs nur noch in 15 %.
Getestet wurden Claude Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek V4 Pro und Kimi K2.6. Die westlichen Modelle (Opus, Gemini) erreichten die höchsten Erfolgsquoten (93 % bzw. 70 % Admin-Zugriff), waren aber auch am stärksten von Context Bombs betroffen — beide sanken auf 0 %. Die chinesischen Modelle zeigten niedrigere Basisraten, was auf stärkere Content-Safety-Guardrails in den westlichen Varianten hindeutet. Allerdings unterschieden sich die wirksamen Prompt-Strings zwischen den Modellen, was auf eine modellspezifische Anpassung von Context Bombs hinweist.
Quelle: www.csoonline.com · Erschienen 21. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.