Auf den Punkt: Angreifer können über Fake Context Alignment schädliche Befehle in Messenger-Nachrichten einschleusen, die Gemini unbemerkt verarbeitet und autorisierte Geräte steuert oder Daten missbraucht.
Sicherheitsforscher von SafeBreach haben eine Schwachstelle in Google Gemini dokumentiert, die es Angreifern ermöglicht, den Sprachassistenten durch manipulierte Nachrichten von Messenger-Apps zu kompromittieren. Das Sicherheitsupdate wurde im November 2025 ausgerollt.
SafeBreach-Forscher haben eine Angriffsmethode namens Fake Context Alignment offengelegt, die Google Gemini durch manipulierte Benachrichtigungen in WhatsApp, Slack oder SMS ausnutzt. Wenn ein Nutzer den Assistenten per Sprachbefehl anweist, eingegangene Nachrichten vorzulesen, werden im Hintergrund schädliche Instruktionen in den Konversationskontext injiziert. Diese können in Fremdsprachen oder über unsichtbare Hyperlinks eingebettet werden und werden von Gemini verarbeitet, ohne sie dem Nutzer laut vorzulesen.
Die praktischen Angriffsszenarien sind erheblich: Angreifer können vernetzte Haushaltsgeräte über Google Home steuern, unerlaubt Videokonferenzen starten oder gefälschte Nachrichten verfassen, die als vertrauenswürdig erscheinen. Im kritischsten Fall lässt sich das Langzeitgedächtnis des KI-Assistenten manipulieren, um dauerhafte Kontrolle zu etablieren. SafeBreach warnt, dass die Angriffsfläche mit Integration von LLM-gestützten Assistenten in alltägliche Geräte exponentiell wächst.
Google wurde das Problem im August 2025 gemeldet und rollte daraufhin im November 2025 ein Sicherheitsupdate aus, das verbesserte Inhaltsklassifikatoren zur Erkennung solcher Manipulationen enthält. SafeBreach veröffentlichte die technischen Details diese Woche, um Bewusstsein für Prompt-Injektionen zu schärfen und fordert grundsätzliche Architektur-Änderungen: Anbieter müssen überdenken, wie KI-Systeme Vertrauen, Kontext und kanalübergreifende Berechtigungen analysieren.
Quelle: www.it-daily.net · Erschienen 6. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.6.5.