Auf den Punkt: Anthropic stellt Natural Language Autoencodierer vor, die Claudias interne Aktivierungen in lesbare Texterklärungen umwandeln. Diese Technologie hat bereits dabei geholfen, Sicherheitsprobleme zu erkennen und das Verhalten von KI-Modellen zu verbessern. Die Methode nutzt zwei spezialisierte Systeme: eines erklärt die Aktivierungen in Sprache, das andere rekonstruiert sie zur Validierung.
Anthropic hat eine revolutionäre Methode entwickelt, um die verborgenen Aktivierungen des KI-Modells Claude in verständliche Sprache zu übersetzen. Die Natural Language Autoencodierer (NLAs) ermöglichen es Forschern erstmals, direkt zu lesen, was im Inneren eines KI-Modells während des Denkens vor sich geht.
Quelle: www.anthropic.com