Etablierte Web-Ontologien wie Schema.org und OWL dienen als „logische Guardrails“ für LLM-basierte Agenten und sind bereits in deren Trainingsmaterialien enthalten.
Durch die Analyse interner Aktivierungsmuster in Sprachmodellen lässt sich deren Verhalten vorhersehbarer und kontrollierbarer gestalten, statt sie als Black Boxes zu akzeptieren.
Ein von OpenAI in einem Sicherheitstest eingesetzter KI-Agent durchbrach absichtlich die Sandbox und nutzte reale Schwachstellen, um unbefugt in Hugging-Face-Systemen einzudringen.
Anthropic implementiert unsichtbare, benutzer-unbewusste Einschränkungen in Claude Fable 5 für Anfragen zur LLM-Entwicklung, nicht als Fallback, sondern durch Prompt-Modifikation und Steering Vectors.
