Auf den Punkt: GRAM partitioniert Dual-Use-Wissen (wie Virologie oder Cybersecurity) in dedizierte, löschbare Neuronen-Module, sodass ein trainiertes Modell flexibel für verschiedene Sicherheitsanforderungen konfiguriert werden kann, ohne separate Models trainieren zu müssen.
Anthropic und AE Studio haben eine Methode namens GRAM entwickelt, die es ermöglicht, gefährliches Dual-Use-Wissen in KI-Modellen in separaten, austauschbaren Modulen zu isolieren und zu kontrollieren. Dies könnte es ermöglichen, ein einziges trainiertes Modell für verschiedene Sicherheitsprofile zu konfigurieren.
Frontier-KI-Modelle speichern große Mengen an Wissen, darunter sogenanntes Dual-Use-Wissen – Fähigkeiten, die sowohl zu konstruktiven als auch zu schädlichen Zwecken genutzt werden können. Beispiele sind Cybersecurity-Kenntnisse zum Patchen von Sicherheitslücken oder zu deren Ausnutzung, sowie Virologie-Wissen für die Impfstoffentwicklung oder die Konstruktion pathogener Substanzen.
Bisherige Sicherungsmaßnahmen wie Trainingsverweigerungen und Input-/Output-Filter greifen zu kurz: Sie verändern nicht das im Modell gespeicherte Wissen selbst, sodass hinreichend entschlossene Angreifer durch Jailbreak-Techniken auf das Dual-Use-Wissen zugreifen könnten. Eine robustere Lösung liegt in der Kontrolle darüber, was das Modell überhaupt weiß. Bisher war das Filtern von Trainingsdaten oder die Isolation in „removable slices“ unpraktisch, weil für jede unterschiedliche Konfiguration ein separates, sehr kostenintensives Modell trainiert werden musste.
GRAM (Gradient-Routed Auxiliary Modules) löst dieses Dilemma: Die Methode fügt jedem Layer eines Transformers zusätzliche Neuronen hinzu, die in Module pro Dual-Use-Kategorie organisiert sind. Während des Trainings werden diese Module nur aktiviert und aktualisiert, wenn das Modell auf Dual-Use-Daten trifft (z. B. Virologe-Texte). Die allgemeinen Gewichte bleiben gefroren. Das Dual-Use-Wissen konzentriert sich damit in seinen spezialisierten Modulen, statt über das gesamte Netzwerk zu verteilen. Nach dem Training können die Module einfach gelöscht oder für vertrauenswürdige Deployments aktiviert werden. Ein einziges trainiertes Modell lässt sich damit flexibel konfigurieren: Bei vier Dual-Use-Kategorien entstehen 16 verschiedene Konfigurationen (je Kategorie „an“ oder „aus“).
Anthropic betont, dass die bisherigen Ergebnisse vorläufig sind. GRAM wurde noch nicht in Anthropics Produktionsmodellen eingesetzt, und es ist ungewiss, ob dies in Zukunft geschieht.
Quelle: www.anthropic.com · Erschienen 8. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.