Auf den Punkt: Laut einer Cloudflare-Studie mit über 18.000 Testläufen genügen wenige, gezielt platzierte Kommentare, um KI-gestützte Code-Sicherheitsprüfungen zu täuschen, wobei auch die Sprache der Kommentare die Erkennungsrate beeinflusst.
Eine Cloudflare-Studie mit über 18.000 Testläufen zeigt, dass automatisierte KI-Prüfungen von Quellcode nicht durch möglichst viele Manipulationsversuche unterlaufen werden, sondern durch wenige, präzise platzierte Kommentare. Für Sicherheitsverantwortliche, die zunehmend auf LLM-gestützte Code-Reviews setzen, ist das ein Warnsignal.
Cloudflare hat in einer umfangreichen Testreihe mit mehr als 18.000 Durchläufen untersucht, wie robust KI-gestützte Prüfmechanismen für Quellcode gegenüber gezielten Manipulationsversuchen sind. Das zentrale Ergebnis: Angreifer erzielen keine besseren Erfolge, indem sie möglichst viele manipulative Hinweise in den Code einstreuen. Stattdessen reicht eine geringe, sorgfältig dosierte Anzahl an Kommentaren aus, um die automatisierte Prüfung zu täuschen und schädlichen Code unentdeckt passieren zu lassen. Die Studie zeigt zudem, dass selbst die verwendete Sprache der Kommentare Einfluss darauf hat, ob ein Manipulationsversuch von der KI erkannt oder übersehen wird.
Für CISOs, die Prompt-Injection und Code-Manipulation bislang primär als Risiko im Kontext von Chatbots oder Assistenzsystemen einordnen, verschiebt sich damit der Blickwinkel: Auch automatisierte Code-Reviews und Sicherheitsscans, die auf großen Sprachmodellen basieren, sind für gezielte, unauffällige Angriffe anfällig. Da viele Organisationen KI-gestützte Prüfwerkzeuge in CI/CD-Pipelines einsetzen, um Schwachstellen frühzeitig zu erkennen, entsteht hier ein neuer Angriffsvektor, der klassische Regelwerke zur Codequalität und Signaturprüfung unterläuft, ohne dass dafür komplexe technische Exploits notwendig sind.
Für die Praxis bedeutet dies, dass KI-basierte Code-Prüfungen nicht als alleinstehende Kontrollinstanz betrachtet werden sollten. Sicherheitsverantwortliche sind gut beraten, automatisierte Prüfungen weiterhin mit menschlichem Review, statischer Codeanalyse und mehrsprachigen Testsets zu kombinieren, um die in der Studie beschriebene Schwachstelle bei der Sprachabhängigkeit der Erkennung zu adressieren. Auch eine gezielte Überprüfung von Kommentaren im Code auf ungewöhnliche Formulierungen oder Anweisungen kann Teil der Härtungsmaßnahmen für bestehende Review-Prozesse werden.
Quelle: www.security-insider.de · Erschienen 5. August 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.8.3.