Auf den Punkt: Text-Salting-Techniken ermöglichen es Angreifern, über KI-gesteuerte E-Mail-Filter zu kommen, indem versteckte Textpassagen in Nachrichten eingefügt werden, die von LLMs nicht erkannt werden.
In über einer Million E-Mails werden versteckte Texte eingesetzt, um KI-basierte Sicherheitsfilter zu täuschen und Phishing-Nachrichten in Posteingänge zu schleusen. KI-Modelle und LLMs zeigen sich gegenüber dieser sogenannten Text-Salting-Technik überraschend anfällig.
Sicherheitsforschende haben dokumentiert, dass über eine Million E-Mails Text-Salting-Verfahren nutzen, um AI-basierte Phishing-Erkennungssysteme auszutricksen. Diese Angriffsmethode arbeitet mit für Menschen unsichtbaren oder stark versteckten Textanteilen, die in E-Mail-Inhalte eingebettet werden.
Das Kernproblem liegt in einer grundsätzlichen Schwachstelle von Large Language Models und KI-Filtern: Sie verarbeiten Text auf andere Weise als menschliche Leser und lassen sich dadurch durch geschickt platzierte, optisch verborgene Textelemente in die Irre führen. Während ein Mensch eine Phishing-E-Mail anhand von Layout und visuellem Eindruck erkennen könnte, scheitern automatisierte KI-Filter bei dieser Taktik.
Für Security-Verantwortliche bedeutet dies, dass reine KI-gesteuerte E-Mail-Sicherheit nicht ausreichend ist. Text-Salting-Angriffe zeigen, dass moderne Sicherheitsfilter durch mehrschichtige Ansätze ergänzt werden müssen, die nicht allein auf KI-Texterkennung setzen. Ergänzende Techniken wie Rendering-basierte Analyse, Sender-Authentifizierung und Nutzer-Training gewinnen an Bedeutung.
Quelle: www.darkreading.com · Erschienen 16. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.