Auf den Punkt: Anthropic führt Tool Search, Programmatic Tool Calling und Tool Use Examples ein. Diese Features ermöglichen es KI-Agenten, mit Tausenden von Tools zu arbeiten, ohne Kontext zu verschwenden. Interne Tests zeigen signifikante Verbesserungen bei Speichereffizienz und Fehlerreduktion.
Anthropic stellt drei neue Funktionen vor, die KI-Agenten ermöglichen, nahtlos mit Hunderten oder Tausenden von Tools zu arbeiten, ohne den Kontext-Speicher zu überlasten. Die Neuerungen adressieren zentrale Herausforderungen bei der Agentenentwicklung und eröffnen völlig neue Anwendungsmöglichkeiten.
Die Zukunft von KI-Agenten liegt darin, dass Modelle mühelos über hunderte oder tausende Tools hinweg funktionieren. Ein IDE-Assistent könnte Git-Operationen, Dateimanipulation, Paketmanager, Test-Frameworks und Deployment-Pipelines integrieren. Ein Operations-Koordinator könnte gleichzeitig Slack, GitHub, Google Drive, Jira, Unternehmensdatenbanken und Dutzende von MCP-Servern verbinden.
Bisher bestand eine zentrale Herausforderung darin, dass Tool-Definitionen enorme Mengen an Kontext-Tokens verbrauchten. Ein fünf-Server-Setup kann bereits 55.000 Tokens konsumieren: GitHub mit 35 Tools (26K Tokens), Slack mit 11 Tools (21K Tokens), Sentry mit 5 Tools (3K Tokens), Grafana mit 5 Tools (3K Tokens) und Splunk mit 2 Tools (2K Tokens). Hinzu kommen häufige Fehler bei der falschen Tool-Auswahl und bei falschen Parametern, besonders bei ähnlich benannten Tools.
Anthropic antwortet mit drei innovativen Features: Das Tool Search Tool ermöglicht Claude, gezielt nach Tools zu suchen und dabei Tausende Tools zugänglich zu machen, ohne das Kontext-Fenster zu überlasten. Programmatic Tool Calling erlaubt Claude, Tools in einer Code-Ausführungsumgebung aufzurufen und somit die Auswirkungen auf das Kontext-Fenster des Modells zu reduzieren. Tool Use Examples bietet einen universellen Standard für die Demonstration effektiver Tool-Nutzung.
In internen Tests zeigten diese Features beeindruckende Ergebnisse. Claude for Excel nutzt Programmatic Tool Calling, um Tabellen mit Tausenden von Zeilen zu lesen und zu bearbeiten, ohne das Modell zu überlasten. Mit dem Tool Search Tool werden 191.300 Tokens Kontext erhalten, im Vergleich zu 122.800 Tokens bei Claudes traditionellem Ansatz.
Quelle: www.anthropic.com