Große Sprachmodelle halluzinieren regelmäßig nicht existierende Webadressen, die Angreifer preemptiv registrieren und mit Phishing-Seiten missbrauchen. Palo Alto Networks Unit 42 dokumentiert das Phänomen „Phantom Squatting" erstmals in der Praxis.
Große Sprachmodelle (LLMs) generieren in ihren Ausgaben regelmäßig erfundene, in der Realität nicht existierende Webadressen. Sicherheitsforscher der Palo Alto Networks Unit 42 beobachten nun, dass Angreifer diese halluzinierten Domains gezielt identifizieren, registrieren und mit Phishing-Seiten bestücken, um Nutzer abzufangen, die dem KI-Modell vertrauen.
Das Geschäftsmodell funktioniert, weil Nutzer von KI-Werkzeugen dazu neigen, die bereitgestellten Links zu verfolgen, ohne deren Legitimität zu überprüfen. Wenn ein LLM eine Domain nennt, signalisiert dies Vertrauenswürdigkeit, obwohl das Modell die Adresse möglicherweise komplett erfunden hat. Angreifer monetarisieren diese Vertrauenslücke, indem sie die erfundenen Domains erwerben und für Phishing oder Malware-Verteilung einsetzen.
Für CISOs bedeutet dieses Phänomen eine neue Angriffsklasse: Mitarbeiter, die auf KI-Tools vertrauen und Adressen ungeprüft anklicken, werden zum Sicherheitsrisiko. Die Hälfte der Bedrohung liegt nicht im technischen Exploit, sondern in der psychologischen Manipulation durch vermeintlich von KI validierte Links.
Angreifer registrieren von LLMs halluzinierte Domains und nutzen sie für Phishing, da Nutzer KI-generierten Links vertrauen.
Quelle: thehackernews.com · Erschienen 1. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.2.