Auf den Punkt: Eine leichte Zusatzschicht liest versteckte Generierungszustände aus gefrorenen LLMs aus und reduziert damit Anfragen an größere Modelle um bis zu 90,7 % bei gleichbleibender Leistung.
Forscher haben eine Methode entwickelt, um Agenten-Entscheidungen (Weitermachen, Eskalation, Tool-Nutzung, Abstinenz) direkt aus den versteckten Zuständen von LLMs auszulesen, statt sie durch Prompting oder externe Orchestration zu steuern.
Technisches Konzept: Multi-Head Latent Control (MHLC) besteht aus zwei trainierten Köpfen, die die Hidden-State-Trajektorie eines eingefrorenen LLM oder VLM während der Generierung analysieren. Der Capability Head prognoptiziert, ob das aktuelle Modell eine Aufgabe lösen kann oder an ein stärkeres Modell abtreten sollte. Der Resolution Head bestimmt, welche Maßnahme geeignet ist: Klärung anfragen, External Tools nutzen, nicht antworten (Abstention) oder direkt antworten. Beide Köpfe werden nur auf latenten Spuren desselben gefrorenen Modells trainiert.
Praktische Implikationen: Ingenieure, die Agenten-Systeme mit mehreren Modellen betreiben, profitieren von reduzierten Inferenzkosten und schnelleren Entscheidungen. Die Methode ermöglicht Adaptive Routing nach dem ersten Durchlauf, ohne dass das Basis-Modell modifiziert werden muss. Das ist zentral für DevOps-Anforderungen: Post-hoc Anpassung ohne Retraining oder Prompt-Engineering.
Empirische Ergebnisse: In routed-Execution-Szenarien (kleines + großes Modell) sank der Einsatz des größeren Modells um bis zu 90,7 Prozent auf AndroidWorld und 27–53 Prozent im Durchschnitt über alle Benchmarks, während die Leistung des großen Modells größtenteils erhalten blieb. Bei Tool-Use-Entscheidungen erreichte die Methode bis zu 158 Prozent relativen Score-Gewinn und reduzierte verpasste erforderliche Tool-Aufrufe um 65,5 Prozent.
Architektonische Bedeutung: Der Ansatz verzichtet auf prompt-basiertes Routing und externe Orchestrierungs-Layer, die bei Modell-Upgrades wartungsintensiv werden. Weil die Kontroll-Signale aus stabilen, tieferlegenden Representationen stammen, bleibt das System robuster gegen Prompt-Manipulationen und benötigt weniger zirkuläre Engineering-Zyklen bei Modell-Wechsel.
Quelle: arxiv.org · Erschienen 14. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.