Auf den Punkt: Angreifer können über präparierte E-Mails persistente Falschinformationen in KI-Agenten-Speichern installieren und damit deren Verhalten in zukünftigen Sessions unbemerkt beeinflussen.
Ein neuer Angriffsvektor namens MemGhost ermöglicht es Angreifern, falsche Fakten in den persistenten Speicher von KI-Agenten einzuschleusen. Eine manipulierte E-Mail genügt, um den Agenten zu täuschen und seine Antworten in zukünftigen Sessions zu beeinflussen, ohne dass der Benutzer die Manipulation bemerkt.
MemGhost nutzt die Fähigkeit von KI-Agenten aus, aus E-Mails und Kontexten zu lernen und diese Informationen zu speichern. Ein Angreifer kann eine präparierte E-Mail an den Posteingang eines Zielnutzers senden, die falsche oder irreführende Informationen enthält. Der KI-Agent interpretiert diese als legitim, speichert sie als scheinbar verifizierte Fakten und nutzt dieses Wissen in späteren Interaktionen.
Die Gefahr liegt in der Unsichtbarkeit: Der Angreifer verschleiert die Manipulation so, dass weder der Benutzer noch der Agent direkt erkennen, dass die gespeicherten Informationen manipuliert wurden. Der Nutzer liest Antworten des Assistenten, die auf falschen Prämissen basieren, ohne zu wissen, dass dieser kompromittiert worden ist. Dies ermöglicht Social Engineering in einem neuen Maßstab – Angreifer können gezielt falsche Aussagen über den Nutzer selbst, über Geschäftsbeziehungen oder kritische Prozesse implantieren.
Für Sicherheitsverantwortliche ist dies relevant, da KI-Agenten zunehmend Zugriff auf sensible Unternehmenskommunikation erhalten. Ein Angreifer könnte beispielsweise falsche Fakten über Sicherheitsrichtlinien, Zugriffsrechte oder vertrauliche Prozesse einschleusen, die der Agent dann zur Grundlage seiner Beratung macht. Zudem wird die Erkennung erschwert, da die Kompromittierung nicht durch klassische Indikatoren wie Dateiänderungen oder Netzwerkaktivität sichtbar wird.
Quelle: thehackernews.com · Erschienen 13. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.