Auf den Punkt: Nvidia kombiniert autoregressives und Diffusions-Dekodieren in einem tri-modalen Modell, das in der 8B-Variante 6x höhere Token-Generierung als vergleichbare Open-Source-Modelle erreicht.
Nvidia hat Nemotron-Labs-Diffusion entwickelt, ein Sprachmodell, das autoregressive, Diffusions- und Selbst-Spekulations-Dekodierung in einer einzigen Architektur verbindet. Das Modell kann zwischen den Modi wechseln, um je nach Einsatzszenario und Last hohen Durchsatz zu erreichen.
Nemotron-Labs-Diffusion wurde mit einem kombinierten Trainings-Ziel für autoregressive und Diffusions-Verfahren entwickelt. Die Kernfindung lautet, dass diese beiden Ansätze sich ergänzen: Diffusion verbessert die Vorausplanung mehrerer Tokens, während autoregressives Training klassische sprachliche Prioritäten von links nach rechts bereitstellt.
Im Selbst-Spekulations-Modus fungiert die Diffusions-Komponente als Entwurfsgenerator, während die autoregressive Komponente zur Verifikation dient. Nach Angaben der Entwickler übertrifft diese Konfiguration Multi-Token-Vorhersage-Methoden sowohl in der Akzeptanzrate als auch in der realen Geräteeffizienz. Eine theoretische Analyse zeigt, dass Diffusion langfristig mit bis zu 76,5 % mehr Token pro Forward-Pass rechnen kann als der Selbst-Spekulations-Modus unter optimalen Samplern.
Die Familie umfasst Varianten mit 3 Milliarden, 8 Milliarden und 14 Milliarden Parametern, darunter Base-, Instruct- und Vision-Language-Modelle. Das 8B-Modell dekodiert nach Herstellerangaben 6x mehr Token pro Forward-Pass als Qwen3-8B bei vergleichbarer Genauigkeit und erreicht 4x höheren Durchsatz auf SPEED-Bench mit SGLang auf einer GB200-GPU.
Quelle: arxiv.org · Erschienen 6. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.