Auf den Punkt: NeuroCogMap bildet interne Repräsentationen von LLMs in funktionale Systeme ab, identifiziert mechanistisch Ausfallmuster wie Halluzinationen und Bias, und verbessert zugleich die Vorhersage von menschlichen Hirnaktivitäten.
Forscher haben ein Neuroscience-Framework namens NeuroCogMap entwickelt, das interne Features von Large Language Models in funktionale Module unterteilt und damit Verhaltensweisen, Ausfallmuster und Bezüge zur menschlichen Kognition erklärt.
NeuroCogMap folgt einem Ansatz aus der kognitiven Neurowissenschaft: Das Framework organisiert interne Merkmale von Language Models in semantisch kohärente funktionale Parcels und ordnet diese interpretierbaren kognitiven Funktionen zu. Diese Module bilden eine stabile Struktur, die teilweise modellübergreifend konserviert bleibt und funktional mit den Ausgaben des Modells verknüpft ist.
Das Framework ermöglicht die Identifikation spezifischer interner Signaturen für zentrale LLM-Ausfallmuster: Halluzinationen, Bias, Refusal-Fehler und Sycophancy entsprechen je unterschiedlichen Störungen in Repräsentations- und Verhaltenskontrollsystemen. Dies eröffnet mechanismusgelenkte Ansätze zur Detektion und gezielten Intervention in diese Probleme – statt nur deren Symptome zu behandeln.
Über das Modellverhalten hinaus zeigt NeuroCogMap verbesserte Vorhersagekraft für menschliche kortikale Reaktionen während natürlicher Sprachverarbeitung, mit stärkster Übereinstimmung in höherstufigen Assoziationsarealen des Cortex. Damit bietet das Framework sowohl ein System-Level-Werkzeug für die Interpretation künstlicher Systeme als auch einen empirischen Brückenschlag zur menschlichen neuronalen und kognitiven Funktionsweise.
Quelle: arxiv.org · Erschienen 1. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.