Auf den Punkt: Anthropic muss Fable 5 und Mythos 5 sofort abschalten, nachdem die US-Regierung einen Export-Control-Directive wegen national security concerns erlassen hat; das Unternehmen bestreitet, dass das identifizierte Bypass-Verfahren eine substantielle Gefahr darstellt.
Die US-Regierung hat Anthropic angewiesen, den Zugriff auf die Modelle Fable 5 und Mythos 5 für alle Benutzer – einschließlich ausländischer Mitarbeitender – zu sperren. Als Grund nennt die Regierung nationale Sicherheitsbedenken bezüglich eines Bypass-Verfahrens für die Safeguards der Modelle.
Anthropic erhielt die Direktive am heutigen Tag um 17:21 Uhr ET. Das Schreiben der Regierung enthielt keine spezifischen Angaben zu den Sicherheitsbedenken. Nach Anthropics Verständnis hat die Regierung Kenntnis von einem Verfahren erlangt, das die Safeguards von Fable 5 umgehen kann – ein sogenannter Jailbreak. Anthropic hat eine Demonstration dieser Technik überprüft, die nur eine kleine Anzahl bereits bekannter, geringfügiger Anfälligkeiten offenbart. Diese Schwachstellen wirken relativ einfach und lassen sich auch mit anderen frei verfügbaren Modellen ohne Bypass-Verfahren entdecken.
Anthropic begründet seine Sicherheitsarchitektur für Fable 5 mit mehreren Ebenen: Das Unternehmen hat starke Safeguards eingerichtet, die Missbrauch für Cybersecurity-Aufgaben deutlich erschweren – die Maßnahmen sind nach eigenen Angaben so restriktiv, dass viele Nutzer sich beschwert haben. Vor dem Launch führte Anthropic mit der US-Regierung, Großbritanniens AISI und externen Organisationen tausende Stunden Red-Teaming durch. Bei diesen Tests zeigte sich, dass Fables Safeguards substantiell wirksamer sind als die von früher eingesetzten Modellen. Kein Tester fand bislang einen universellen Jailbreak, der die Safeguards breit umgehen kann.
Anthropic räumt ein, dass perfekte Jailbreak-Resistenz derzeit für kein Modell möglich ist. Das Unternehmen verfolgt daher eine Strategie mit mehreren Schutzebenen: Jailbreaks sollen entweder eng begrenzt oder sehr kostspielig zu entwickeln sein, kombiniert mit laufender Überwachung zur schnellen Detektion von Angriffen. Dies erklärt auch Anthropics Richtlinie einer 30-tägigen Datenspeicherung bei Fable – eine Maßnahme mit erheblichen Kostennachteilen, die aber Jailbreak-Forschung ermöglicht.
Nach Anthropics Darstellung bestand das von der Regierung erhaltene Verfahren im Wesentlichen darin, das Modell aufzufordern, einen spezifischen Codebase zu lesen und Softwarefehler zu beheben. Anthropic hat einen Bericht überprüft, der der Regierungsentscheidung zugrunde liegen soll, und validiert, dass die gezeigte Fähigkeit bei anderen Modellen – einschließlich OpenAIs GPT-5.5 – weit verbreitet ist und täglich von Sicherheitsverantwortlichen genutzt wird.
Der Zugriff auf alle anderen Anthropic-Modelle bleibt unbeeinträchtigt. Anthropic teilte mit, in den nächsten 24 Stunden weitere Details zu veröffentlichen.
Quelle: www.anthropic.com · Erschienen 11. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.1.