Auf den Punkt: Kleinere KI-Modelle eines Anbieters lassen sich nutzen, um die eigentlich verschlüsselten Reasoning-Protokolle von Top-Systemen wie GPT-5 im Klartext zu rekonstruieren.
Eine Sicherheitslücke erlaubt es, verschlüsselte Abwägungsprotokolle (Reasoning-Traces) von KI-Top-Systemen wie GPT-5 im Klartext auszulesen. Dazu genügen kleinere Modelle desselben Anbieters als Hilfsmittel.
Führende KI-Anbieter verschlüsseln oder verschleiern zunehmend die internen Abwägungsprotokolle ihrer Reasoning-Modelle, um Geschäftsgeheimnisse und Sicherheitsmechanismen zu schützen. Wie heise berichtet, existiert jedoch eine Methode, mit der sich diese eigentlich geschützten Denkprozesse von Systemen wie GPT-5 dennoch im Klartext rekonstruieren lassen. Der Angriffsweg nutzt dabei kleinere, weniger stark abgesicherte Modelle desselben Anbieters als Hebel, um Rückschlüsse auf den verschlüsselten Inhalt der Top-Modelle zu ziehen.
Für Sicherheitsverantwortliche in Unternehmen ist dies relevant, weil interne Reasoning-Traces häufig sensible Zwischenschritte enthalten – etwa Hinweise auf Systemprompts, Sicherheitsfilter oder unternehmensspezifische Konfigurationen, die über API-Integrationen an KI-Anbieter übermittelt werden. Lässt sich dieser Schutzmechanismus umgehen, sind nicht nur die Geschäftsgeheimnisse der Anbieter betroffen, sondern potenziell auch Informationen, die Kunden in ihren Anfragen oder Systemprompts hinterlegt haben. Das betrifft insbesondere Organisationen, die GPT-5 oder vergleichbare Modelle in produktive Workflows mit vertraulichen Daten eingebunden haben.
Für die Praxis bedeutet dies, dass CISOs die Vertraulichkeitszusagen von KI-Anbietern zu verschlüsselten oder verborgenen Reasoning-Inhalten kritisch hinterfragen sollten, insbesondere bei der Übermittlung sensibler Systemprompts oder unternehmensinterner Kontextdaten an externe Modell-APIs. Bis Anbieter wie OpenAI diese Schwachstelle in ihrer Modellarchitektur adressiert haben, empfiehlt sich eine Prüfung, welche vertraulichen Informationen tatsächlich über solche Schnittstellen fließen und ob eine Datenminimierung in Prompts sinnvoll ist.
Quelle: www.heise.de · Erschienen 12. August 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.8.3.