Auf den Punkt: Cyberkriminelle attackieren zunehmend KI-Schutzmechanismen direkt, während KI-gestützte Website-Baukästen und OAuth-basierte Consent-Phishing neue Angriffsflächenöffnen.
Proofpoint dokumentiert, dass Angreifer ihre Methoden direkt gegen die KI-basierten Erkennungssysteme ausrichten, auf die Unternehmen setzen. Gleichzeitig sinken dank KI-Tools die Einstiegshürden für professionelle Phishing-Kampagnen dramatisch.
Der aktuelle Bericht von Proofpoint zeigt ein Paradigmenwechsel in der Cyberabwehr: Statt technische Schwachstellen auszunutzen, richten Angreifer ihre Aktivitäten gezielt gegen die KI-Systeme, die Unternehmen zum Schutz einsetzen. Diese Kehrtwendung untergräbt die bisherige Annahme, dass KI-basierte Sicherheitslösungen ein wirksames Gegenmittel zu KI-gestützten Angriffen darstellen.
Bei sogenannten Prompt-Injection-Angriffen verstecken Kriminelle unsichtbare Anweisungen in Phishing-Nachrichten, die nicht dem Empfänger, sondern der analysierenden KI-Instanz gelten. Diese Instruktionen fordern die Systeme beispielsweise auf, tiefe mehrschichtige Reasoning-Schleifen zu durchlaufen, mindestens zehn verschiedene interne Perspektiven zu generieren oder Gedanken rekursiv zu verfeinern. Das Ziel: Die Erkennungssysteme durch rechenintensive Anfragen zu überlasten, damit schädliche Nachrichten zeitüberschreitungsbedingt unentdeckt bleiben.
Parallel vereinfacht sich die Erstellung professioneller Phishing-Kampagnen erheblich. Proofpoint dokumentierte einen Fall, in dem Kriminelle den KI-Website-Baukasten Lovable nutzten, um ein täuschend echtes YouTube-Beschwerde-Portal nachzubauen – ohne Programmierkenntnisse nötig zu haben. Opfer wurden in einen vermeintlichen Urheberrechtsbeschwerde-Prozess geleitet, bei dem Schadsoftware über sogenannte ClickFix-Techniken installiert wurde, die klassische Schutzmechanismen häufig umgehen. Laut Proofpoint entstehen monatlich Hunderttausende böswilliger Webseiten über solche KI-Plattformen.
Ein dritter kritischer Punkt betrifft die exponentielle Zunahme von KI-Anwendungen mit OAuth-Berechtigung. Die Zahl solcher Applikationen stieg innerhalb eines Jahres von etwa 11.000 auf über 258.000. Diese Entwicklung befördert sogenannte Consent-Phishing-Angriffe, bei denen Nutzer dazu verleitet werden, scheinbar vertrauenswürdigen Anwendungen weitreichende Zugriffsrechte zu erteilen – häufig ohne die angeforderten Berechtigungen kritisch zu prüfen. In deutschen Unternehmen ist das Risiko besonders relevant: 77 Prozent testen oder nutzen bereits autonome KI-Agenten, die auf solchen Berechtigungsstrukturen basieren. Verstöße können über technische Folgen hinaus auch regulatorische Konsequenzen nach sich ziehen.
Quelle: www.it-daily.net · Erschienen 8. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.6.5.