Auf den Punkt: Lockdown Mode unterbricht eine der drei notwendigen Voraussetzungen für erfolgreiche Datendiebstahl-Angriffe auf LLM-Systeme, indem es Exfiltrationsvektoren blockiert.
OpenAI hat Lockdown Mode für ChatGPT aktiviert, ein Feature, das Datenexfiltration nach Prompt-Injection-Angriffen unterbinden soll. Der Modus begrenzt ausgehende Netzwerkanfragen und rollt derzeit auf persönliche Konten sowie ChatGPT Business aus.
OpenAI verteilt Lockdown Mode jetzt aktiv auf berechtigte persönliche Konten (Free, Go, Plus, Pro) sowie auf Self-Service-ChatGPT-Business-Konten. Das Feature wurde im Februar angekündigt und adressiert eine spezifische Schwachstelle: die finale Exfiltrationsstufe bei Prompt-Injection-Attacken.
Lockdown Mode funktioniert durch Limitierung ausgehender Netzwerkanfragen, die ein Angreifer zur Datenübertragung missbrauchen könnte. Dabei ist zentral zu verstehen, was das Feature nicht leistet: Es verhindert Prompt Injections nicht. Diese können weiterhin in gepufferten Webinhalten oder hochgeladenen Dateien auftauchen und das Verhalten oder die Genauigkeit von Antworten beeinflussen.
Der Ansatz trifft einen technischen Kern-Problem bei LLM-Sicherheit, das als „Lethal Trifecta“ bekannt ist: Systeme, die gleichzeitig auf private Daten zugreifen können, unvertrautem Content exponiert sind und über Exfiltrationswege verfügen, sind anfällig für Datendiebstahl. Lockdown Mode kappt gezielt das Exfiltrationsbein dieser Trifecta – und dies durch deterministische Mechanismen, die nicht von KI-Systemen selbst evaluiert werden und deshalb nicht durch ausgefeilte Angriffe umgangen werden können.
Das Bestehen von Lockdown Mode als separates Feature indiziert jedoch auch, dass ChatGPT in Standardkonfiguration bislang keinen robusten Schutz gegen entschlossene Datenexfiltrations-Angriffe bot. Mit dieser Maßnahme zieht OpenAI zumindest die praktisch sinnvollste Grenze – den Unterbau des Systems selbst zu verändern wäre deutlich aufwändiger und könnte die Nützlichkeit des Tools erheblich reduzieren.
Quelle: simonwillison.net · Erschienen 6. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.6.5.