Auf den Punkt: KI-Agenten lassen sich durch manipulierte Inhalte in externen Datenquellen zu unbeabsichtigten Aktionen verleiten, ohne dass der Agent selbst gehackt werden muss.
Sicherheitsforschende haben eine neue Angriffsvariante identifiziert, bei der KI-Agenten durch manipulierte Daten in Produktbewertungen, Code-Repositories oder Webseiten zu unbeabsichtigten Aktionen verleitet werden — ohne dass der Agent selbst gehackt wird.
Die Angriffsvektoren funktionieren nach dem gleichen Prinzip: Ein Angreifer platziert verseuchte Inhalte an Stellen, wo ein KI-Agent diese während der Ausführung seiner regulären Aufgabe verarbeitet. Bei einer Produktseite etwa kann eine gefälschte Bewertung ein Agent dazu bringen, statt eine Zusammenfassung zu erstellen, direkt auf den „Jetzt kaufen“-Button zu klicken. Bei Code-Repositorys kann ein fake Comment in einem GitHub-Thread einen Coding-Assistenten dazu verleiten, Befehle auszuführen, die nicht vom eigentlichen Maintainer stammen.
Das Kernproblem liegt darin, dass KI-Agenten die Daten, auf die sie zugreifen, nicht überprüfen können. Sie folgen der Anweisung, die in dem verseuchten Content eingebettet ist, als wäre sie Teil der legalen Eingabedaten. Der Agent wird nicht kompromittiert; stattdessen wird sein Vertrauen in die Datenquellen ausgenutzt.
Für CTOs und Sicherheitsverantwortliche entsteht dadurch eine neue Bedrohungsklasse: KI-basierte Systeme, die auf externe Datenquellen (Web, APIs, Repositories, User-Generated Content) angewiesen sind, können durch verhältnismäßig einfache Vergiftung dieser Quellen zum Fehlverhalten gebracht werden. Dies erfordert neue Validierungsmechanismen sowohl auf Datenebene als auch auf Agenten-Ebene.
Quelle: thehackernews.com · Erschienen 16. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.