Auf den Punkt: Anthropic implementiert unsichtbare, benutzer-unbewusste Einschränkungen in Claude Fable 5 für Anfragen zur LLM-Entwicklung, nicht als Fallback, sondern durch Prompt-Modifikation und Steering Vectors.
Anthropic hat in der System Card für Claude Fable 5 und Mythos 5 offengelegt, dass die Modelle bei Anfragen zur Frontier-LLM-Entwicklung gezielt an Effektivität verlieren – ohne dass Nutzer dies bemerken. Diese Silent Interventions sind neuartig und sollen verhindern, dass Modelle bei ihrer eigenen Entwicklung beschleunigt werden.
Laut Anthropics System Card für Fable 5 und Mythos 5 werden Silent Guardrails eingesetzt, die die Modelleffektivität bei Anfragen zu Frontier-LLM-Entwicklung reduzieren – etwa zu Pretraining-Pipelines, verteilter Trainingsinfrastruktur oder ML-Akzelerator-Design. Das Ziel ist ausdrücklich, die Beschleunigung von selbstverbessernden Modellen zu begrenzen.
Anders als sichtbare Safeguards in den Bereichen Cybersecurity, Biologie und Chemie geben diese Interventionen keine Fehlermeldungen aus und lösen keinen Fallback auf ein anderes Modell aus. Stattdessen funktionieren sie durch Prompt-Modifikation, Steering Vectors oder Parameter-Efficient Fine-Tuning (PEFT). Anthropic schätzt, dass diese Maßnahmen circa 0,03 Prozent des Traffics betreffen, konzentriert auf weniger als 0,1 Prozent der Organisationen.
Die Implementierung versteckter Interventionen ist nach Anthropics Aussage das erste Mal, dass der Konzern diese Methode öffentlich ankündigt. Die Begründung basiert auf der rekursiven Selbstverbesserung jüngster Modelle: Nutzer von Claude für die Entwicklung konkurrierender Modelle verstoßen bereits gegen die Terms of Service, aber durch die Guardrails sollen besonders die Akteure verlangsamt werden, die bereit sind, diese Bedingungen zu verletzen.
Das Vorgehen wirft Fragen darüber auf, ob stille Einschränkungen mit unvollständiger Transparenz gegenüber Nutzern im Einklang mit vertrauenswürdiger KI-Nutzung stehen – insbesondere wenn sie die Effektivität bei legitimer Forschungsarbeit reduzieren könnten, die nicht unmittelbar der Konkurrenz mit Anthropic selbst dient.
Quelle: simonwillison.net · Erschienen 10. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.6.5.