Auf den Punkt: CrowdStrike dokumentiert fünf neue Prompt-Injection-Techniken, die LLMs zur Ausführung nicht autorisierter Befehle manipulieren können.
Die Sicherheitsfirma CrowdStrike hat fünf neue Prompt-Injection-Techniken identifiziert, die Unternehmens-KI-Systeme gefährden. Diese Angriffsvektoren nutzen LLMs aus, indem sie diese dazu bringen, Anweisungen zu akzeptieren, die Menschen als verdächtig erkannt hätten.
CrowdStrike hat seine Klassifizierung von Prompt-Injection-Angriffen um fünf neue Techniken erweitert. Die erste ist Trigger-Activated Rule Addition: Ein Angreifer fügt eine zunächst harmlos wirkende neue Regel hinzu, die später aktiviert werden kann, um unerwünschtes Modellverhalten auszulösen.
Cognitive Token Suppression umgeht eingebaute Sicherheitsmaßnahmen, indem die sprachlichen Muster des Modells von etablierten Verweigerungsmustern abgelenkt werden. Algorithmic Payload Decomposition verteilt Befehle auf mehrere Stufen, die einzeln harmlos wirken, sich aber kombiniert zu einer gefährlichen Instruktion zusammensetzen lassen.
Special Token Injection funktioniert ähnlich wie das Einbetten von gefälschten Kontrollschaltern in normale Anweisungen — der Angreifer erzeugt Verwirrung und veranlasst das Modell, nicht vertrauenswürdige Benutzerinhalte als hochrangige Systemdirektiven zu behandeln. Unwitting User Context-Data Injection exploitet die Grenze zwischen vertrauenswürdigen Daten und ausführbaren Befehlen: Ein Benutzer wird dazu verleitet, bösartige Anweisungen als Teil der Kontextdaten für ein LLM einzuschleusen — etwa beim Upload von Dokumenten oder beim Hinzufügen von Inhalten, die später von KI-Systemen verarbeitet werden.
CrowdStrike empfiehlt Sicherheitsteams als Gegenmaßnahmen Threat Modeling für jeden möglichen Ursprung von Modell-Kontext, erweiterte Testabdeckung und Detektionsfähigkeiten, die auch zusammengesetzte Angriffe abdecken.
Quelle: www.csoonline.com · Erschienen 10. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.