Auf den Punkt: KI-Coding-Assistenten können durch erfundene, aber registrierte Paketnamen dazu verleitet werden, Nutzer zur Installation von Malware zu führen.
Forscher haben eine Angriffstechnik namens HalluSquatting demonstriert, die die Halluzinationsfähigkeit von KI-Coding-Assistenten ausnutzt: Angreifer registrieren fiktive Paketnamen, die die KI regelmäßig erfindet, und locken Nutzer so zur Installation manipulierter Software.
KI-Coding-Assistenten generieren bei Anfragen nach populären Tools gelegentlich glaubwürdige Namen für nicht existierende Projekte. Die neue Angriffstechnik HalluSquatting nutzt diese „Halluzinationen“ gezielt aus: Angreifer identifizieren die fiktiven Paketnamen, welche die KI zuverlässig erfindet, registrieren diese Namen in öffentlichen Paket-Repositorien und warten darauf, dass der Coding-Assistant dem Nutzer genau diese manipulierten Pakete zur Installation empfiehlt.
Das Sicherheitsrisiko liegt in der Vertrauenskette: Nutzer folgen KI-Empfehlungen oft unreflektiert, insbesondere wenn die Paketnamen authentisch wirken und der Kontext des Gesprächs stimmig ist. Ein registriertes Paket mit Botnet-Malware oder anderen Schadsoftware-Varianten wird dann mit hoher Wahrscheinlichkeit ausgeführt.
Für CISOs ist dies ein zusätzlicher Vektor in der Supply-Chain-Security: Während bisherige Aufmerksamkeit auf Dependency-Confusion und Typosquatting lag, wird nun ein neuer Angriffswinkel relevant — einer, der die KI-Integration in Entwicklungsprozesse direkt als Angriffsfläche nutzt. Das Problem verschärft sich, je stärker KI-Coding-Assistenten in Entwicklerteams verankert sind.
Quelle: thehackernews.com · Erschienen 8. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.