Auf den Punkt: KI-Coding-Assistenten schleusen Open-Source-Pakete in einem Tempo in Entwicklungsprozesse ein, das klassische manuelle Sicherheitsreviews nicht mehr abdecken können.
KI-gestützte Coding-Tools schlagen Open-Source-Abhängigkeiten schneller vor, als traditionelle Sicherheitsprüfungen sie kontrollieren können. ActiveState weist darauf hin, dass viele dieser Pakete unvalidiert oder schlicht halluziniert sind und ungeprüft in Entwicklungspipelines gelangen.
ActiveState beschreibt in seiner Analyse ein strukturelles Problem, das durch den breiten Einsatz von KI-Coding-Tools entsteht: Diese Werkzeuge generieren Code, der Abhängigkeiten zu externen Open-Source-Paketen enthält, ohne dass diese Pakete zuvor durch einen Sicherheits- oder Lizenzprüfprozess gelaufen sind. Ein Teil dieser vorgeschlagenen Pakete existiert laut ActiveState gar nicht real, sondern ist ein Halluzinationsprodukt des jeweiligen Modells – ein Umstand, der zusätzliches Risiko schafft, etwa durch sogenanntes Slopsquatting, bei dem Angreifer solche halluzinierten Paketnamen gezielt registrieren, um Schadcode einzuschleusen.
Für CISOs verschiebt sich damit die Kontrollfrage: Klassische Software-Composition-Analyse-Prozesse (SCA) setzen typischerweise erst an, wenn Code bereits im Repository liegt oder eine Pull-Request-Prüfung ansteht. Bei KI-generiertem Code entsteht das Abhängigkeitsproblem jedoch bereits im Moment der Codeerstellung durch den Entwickler oder das Tool selbst – deutlich vor jeder etablierten Review-Instanz. Die Menge an neu vorgeschlagenen Paketen wächst dabei schneller, als Sicherheitsteams sie mit vorhandenen personellen Ressourcen manuell bewerten können.
ActiveState empfiehlt daher, die Governance von Paketen an den Zeitpunkt der Auswahl vorzuverlagern, statt sie erst nachträglich in der Pipeline zu kontrollieren. Konkret bedeutet das: Kuratierte, bereits geprüfte Paketkataloge oder -register, aus denen KI-Tools und Entwickler ausschließlich beziehen dürfen, sowie automatisierte Kontrollpunkte, die unbekannte oder nicht verifizierte Paketnamen blockieren, bevor sie überhaupt in den Build-Prozess gelangen.
Für Sicherheitsverantwortliche in Unternehmen mit aktivem Einsatz von KI-Coding-Assistenten – etwa GitHub Copilot, Cursor oder vergleichbaren Tools – ergibt sich daraus die Notwendigkeit, bestehende Policies für Software-Lieferketten zu überprüfen. Eine reine Nachkontrolle im CI/CD-Prozess reicht nicht mehr aus, wenn die Menge an KI-generierten Abhängigkeitsvorschlägen die Kapazität bestehender Reviewer-Teams übersteigt.
Quelle: www.bleepingcomputer.com · Erschienen 13. August 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.8.3.