Auf den Punkt: Trotz wachsender Fähigkeit, Zero-Day-Schwachstellen zu finden und auszunutzen, produzieren aktuelle KI-Modelle laut mehreren unabhängigen Studien weiterhin in bis zu 44 Prozent der Fälle unsicheren Code und verbessern sich dabei kaum.
Aktuelle Studien zeigen eine wachsende Asymmetrie zwischen offensiven und defensiven KI-Fähigkeiten: Während LLMs zunehmend Sicherheitslücken finden und ausnutzen können, verbessert sich ihre Fähigkeit, sicheren Code zu erzeugen oder Schwachstellen sauber zu patchen, kaum.
Eine Untersuchung des Application-Security-Anbieters Veracode zeigt, dass 44 Prozent des von KI generierten Codes mindestens eine bekannte Schwachstelle aus den OWASP Top 10 enthält. Selbst die leistungsfähigsten aktuellen Frontier-Modelle erreichten in Sicherheitstests keine Erfolgsquote über 68 Prozent – im Klartext generiert damit jedes dritte Codebeispiel weiterhin unsicheren Code. Über vier Testreihen hinweg, die Veracode im Lauf des vergangenen Jahres mit insgesamt mehr als 100 Modellversionen durchführte, verbesserte sich die durchschnittliche Sicherheitsquote kaum. Gleichzeitig produzierten alle getesteten Modelle in 99 Prozent der Fälle syntaktisch korrekten Code. Chris Wysopal, Chief Security Evangelist bei Veracode, bringt die Diskrepanz auf den Punkt: Die Modelle würden zunehmend besser darin, Exploit-Code zu schreiben, aber nicht darin, sicheren Code zu erzeugen – eine Frage, die er direkt an die KI-Labore richtet.
Weitere Untersuchungen bestätigen den Trend. Die niederländische Softwarequalitätsfirma Software Improvement Group (SIG) stellt in ihrem „State of Software 2026“-Report fest, dass KI-generierter Code etwa doppelt so viele Sicherheitsrisiko-Verstöße aufweist wie von Menschen geschriebener Code. SIG-CTO Jasper Geurts betont dabei, dass 71 Prozent des untersuchten Codes insgesamt – nicht nur KI-generierter – ein niedriges Sicherheitsniveau aufweist. KI habe das Problem demnach nicht geschaffen, sondern verstärke bestehende Schwächen in der Softwareentwicklung von Organisationen. Eine Studie von Xint.io, einer von Theori entwickelten Code-Sicherheitsplattform, ergänzt das Bild: Bei Tests mit fünf aktuellen Modellen von Anthropic und OpenAI, die sowohl neue Anwendungen „vibe-coden“ als auch eine bestehende Anwendung re-architekturieren sollten, fanden die Forscher in 28 App-Varianten insgesamt 434 validierte Sicherheitslücken – 196 in neu generiertem Code, 238 im überarbeiteten Bestandscode.
Laut Kay Kwak, Product Owner für Xint bei Theori, betreffen die häufigsten Fehler Code, der zwar kompiliert und lauffähig ist, aber eingebettete Geheimnisse enthält oder in der Skalierung übermäßig Ressourcen verbraucht. Dies führt er teilweise auf Abkürzungen in den Trainingsdaten sowie darauf zurück, dass Entwickler bei Funktionsanfragen selten explizit Schutzmechanismen mitspezifizieren. Zudem verliere KI bei größeren, komplexeren Codebasen zunehmend den Überblick über granulare Nutzerberechtigungen. Auch beim Schließen bekannter Lücken zeigt sich diese Schwäche: Forschungen von 1Password’s Off-By-1 Labs, die verschiedene Modelle bei der Generierung von Patches für sechs bekannte, bereits gefixte Schwachstellen in komplexen Open-Source-Projekten testeten, dokumentierten über 6.000 Testläufe hinweg vergleichbare Qualitätsprobleme.
Für CISOs ergibt sich daraus ein konkretes Risikobild: KI-gestützte Entwicklung beschleunigt Softwarelieferungen, kann aber ohne etablierte Qualitäts- und Sicherheitskontrollen technische Schulden und Angriffsfläche gleichermaßen vergrößern. Da Angreifer zunehmend KI nutzen, um Schwachstellen automatisiert zu finden und auszunutzen, verschärft sich die Lücke zwischen offensiven und defensiven Fähigkeiten. Organisationen, die KI-generierten Code produktiv einsetzen, sollten verbindliche Security-Reviews, automatisierte Scans nach OWASP-Kriterien und explizite Guardrail-Vorgaben in Prompts als festen Bestandteil ihrer Entwicklungsprozesse etablieren, statt sich auf die Selbstkorrektur der Modelle zu verlassen.
Quelle: www.csoonline.com · Erschienen 18. August 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.8.3.