Auf den Punkt: LLMs halluzinieren erfundene Domains etablierter Marken, die Angreifer für Supply-Chain-Attacks registrieren und nutzen – ein schwer erkennbares Sicherheitsrisiko bei KI-gestützten Entwicklungs- und Recherche-Workflows.
Large Language Models halluzinieren regelmäßig nicht existierende Web-Domains für legitime Marken – Angreifer registrieren diese Domains anschließend für Malware-Verbreitung und andere Anschläge. Diese neue Supply-Chain-Attackvariante ist schwer zu erkennen.
Large Language Models (LLMs) produzieren in ihren Ausgaben konsistent erfundene Web-Domains für etablierte Marken und Unternehmen. Wenn diese nicht registrierten Domains tatsächlich existieren, können Angreifer sie für malware-Verbreitung, Phishing oder andere Anschläge nutzen – ohne dass Sicherheitstools diese Aktivität sofort als verdächtig erkennen.
Das Phänomen heißt „Phantom Squatting“: LLMs werden zum unwillkürlichen Generator von realistisch klingenden, aber erfundenen Domain-Namen. Nutzer, die diese halluzinierten Domains beispielsweise zur Verifizierung von Drittanbieter-Software kopieren, landen unbewusst auf Domains in Angreifer-Kontrolle.
Für CISOs ist dies relevant, weil die Attackvariante traditionelle Indikatoren für Sicherheitsverletzungen umgeht: Die Domain ist nicht blockiert, der Traffic sieht vertrauenswürdig aus, und LLM-basierte Tools sind in Entwicklungs- und Sicherheitsteams zunehmend verankert. Besonders kritisch ist das Risiko in Supply-Chain-Szenarien, etwa wenn Entwickler LLM-basierte Assistenten zur Recherche von Konfigurationen oder Abhängigkeiten nutzen.
Die Schwierigkeit liegt darin, dass Phantom Squatting kein technischer Fehler eines Systems ist, sondern aus der probabilistischen Natur von LLMs folgt: Sie generieren plausible Texte, ohne Faktizität zu prüfen. Damit wird diese Angriffsklasse zu einem strukturellen Sicherheitsrisiko für Organisationen, die KI-Modelle in ihre Workflows integrieren.
Quelle: www.darkreading.com · Erschienen 1. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.2.