Auf den Punkt: Steigende Token-Kosten bei Frontier-Modellen wie Opus oder aktuellen GPT-Versionen treiben Unternehmen zu dynamischem Model Routing, wie es Glean mit einer laut eigenen Angaben vierfach günstigeren Kostenstruktur gegenüber Claude Code demonstriert.
Steigende Preise für Spitzenmodelle wie Opus oder aktuelle GPT-Versionen sowie die wachsende Leistungsfähigkeit offener Modelle wie Kimi K3 und Qwen3.8-Max treiben Unternehmen dazu, den Modellzugriff dynamisch zu steuern statt sich auf einen Anbieter festzulegen. Der Trend zeigt sich sowohl im Kauf von OpenRouter durch Stripe für über 7 Milliarden US-Dollar als auch im Enterprise-Geschäft von Anbietern wie Glean.
Glean, mitgegründet und geführt vom ehemaligen Google Distinguished Engineer Arvind Jain, positioniert sich als KI-Plattform für große Organisationen. Nach einer Series-F-Finanzierung über 150 Millionen US-Dollar im vergangenen Juni wurde das Unternehmen zuletzt mit 7,2 Milliarden US-Dollar bewertet. In diesem Jahr erreichte Glean nach eigenen Angaben 300 Millionen US-Dollar an jährlich wiederkehrenden Umsätzen (ARR) — eine Verdreifachung innerhalb von 15 Monaten. Ein zentraler Bestandteil des Produkts ist die Auswahl, welches Modell für welche Aufgabe eingesetzt wird — oder ob überhaupt ein LLM benötigt wird. Jain nennt als Beispiel einfache Rechenoperationen, für die Nutzer teils LLMs statt eines Taschenrechners verwenden.
Glean bietet laut Jain drei Ebenen der Modellauswahl: Mitarbeitende können ein Modell explizit wählen, Administratoren können Modelle einschränken oder Nutzungslimits setzen, und ein automatischer Modus wählt dynamisch je Aufgabe das passende Modell aus. Nach Aussage von Jain entscheiden sich Kunden überwiegend für den automatischen Modus — aus wirtschaftlichen Gründen. Mitgründer und Engineering-Lead Tony Gentilcore bezifferte die Kosteneffizienz von Glean gegenüber Claude Code mit einem Faktor 4: durchschnittlich 0,45 US-Dollar pro Aufgabe gegenüber 1,84 US-Dollar bei Claude Cowork, zurückzuführen auf die Harness- und Routing-Fähigkeiten von Glean.
Für CTOs ist die Kostenentwicklung bei Frontier-Modellen der eigentliche Treiber dieser Entwicklung. Jain beschreibt, dass aktuelle Spitzenmodelle wie Opus oder die neuesten GPT-Versionen pro Token teils doppelt bis vierfach so teuer sind wie ihre Vorgänger, gleichzeitig aber für deutlich längere und komplexere Aufgaben eingesetzt werden. In Summe könnten sich die Kosten pro Nutzer dadurch gegenüber dem Vorjahr verzehn- bis verzwanzigfachen. Während einzelne Nutzer mit Abos zwischen 20 und 200 US-Dollar monatlich gut bedient sind, skaliert dieses Modell in Unternehmen mit tausenden Beschäftigten nicht ohne Kontrollmechanismen.
Glean positioniert sich dabei explizit als Meta-Harness über mehreren Modellanbietern und beschreibt sein Produkt laut Jain als „Superset von ChatGPT, Claude, Gemini und Grok“ innerhalb einer einheitlichen Nutzeroberfläche. Seit der dritten Generation des Glean Assistant im September spielen zudem Agenten eine wachsende Rolle im System. Als Referenzkunden nennt Glean unter anderem Zillow mit einer Adoptionsrate von 80 Prozent unter 7.000 Beschäftigten sowie Booking.com.
Für CTOs, die eigene KI-Infrastruktur planen oder evaluieren, liefert der Bericht einen Anhaltspunkt für die Bewertung von Routing-Schichten: Kosteneinsparungen entstehen weniger durch ein einzelnes günstigeres Modell, sondern durch eine Architektur, die Aufgaben nach Komplexität differenziert an unterschiedliche Modelle oder gar klassische Systeme ohne LLM verteilt. Die Kombination aus expliziter Nutzerwahl, administrativen Leitplanken und automatischem Routing bildet dabei ein Muster, das sich auch außerhalb von Glean als Referenzarchitektur für Enterprise-KI-Deployments beobachten lässt.
Quelle: www.latent.space · Erschienen 18. August 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.8.3.