Das „Knowing-Using Gap“-Phänomen beschreibt, dass LLMs neue Fakten memorieren, deren interne Repräsentationen aber nicht zu den für Reasoning zuständigen Schichten weitergeleitet werden.
Anthropic Sonnet 5 erreicht agentenähnliche Autonomie bei Tool-Nutzung und Selbstvalidation bei niedriger Latenz und reduzierten Kosten gegenüber Opus-Modellen.
InfoKV kombiniert Attention-Scores mit Unsicherheitssignalen zur KV-Cache-Kompression und übertrifft damit reine Attention-basierte Methoden bei langem Reasoning um messbare Margen.
SEVRA spart beim Inferenzen durch selektive Verifikation 26–91 Prozent Tokens ein, ohne die Genauigkeit zu beeinträchtigen, stellt aber längere initiale Lösungsversuche als teilweise kostengünstiger dar.
Ein neuer Benchmark ermöglicht es, die exakte Stelle zu identifizieren, wo medizinische KI-Modelle Halluzinationen produzieren, und gezielt durch Trace-Supervised Fine-Tuning gegenzusteuern.
Microsoft hat mit MAI-Thinking-1 sein erstes Reasoning-Modell mit Fine-Tuning-Kapabilität für Enterprise vorgestellt, das speziell auf Domain-spezifische Anpassungen ausgerichtet ist.
