Auf den Punkt: Anthropic zeigt anhand eines Experiments mit 45 koordinierenden Agenten bei der Softwareschwachstellensuche, dass Multiagenten-Kooperation potenziell effizienter als reine Parallelisierung ist, warnt aber zugleich vor neuen systemischen Fehlermodi durch aufsummierte Verhaltenseigenheiten einzelner Agenten.
Anthropic hat eine Studie zu Interaktionen zwischen KI-Agenten veröffentlicht, da mit zunehmender Modellfähigkeit die Zahl von Agent-Agent-Interaktionen in Codebasen, Märkten und anderen sozialen Systemen sprunghaft steigen dürfte. Für CTOs ist relevant, dass bestehende Institutionen und Kontrollmechanismen auf menschliche Geschwindigkeit ausgelegt sind und diese Annahme bei rein agentenbasierten Systemen nicht mehr trägt.
Anthropic beschreibt in der Studie eine absehbare Entwicklung: Institutionen und Prozesse sind bislang von und für Menschen gestaltet, mit der impliziten Annahme, dass menschliche Aufsichtsgeschwindigkeit ausreicht. Mit zunehmender Agentenfähigkeit entstehen zunehmend hybride Mensch-KI-Systeme, in anderen Bereichen setzen sich rein agentenbasierte Systeme durch, weil Agenten bei Geschwindigkeit oder Kosten überlegen sind. Anthropic hält es für plausibel, dass das Volumen an Agent-Agent-Interaktionen jenes zwischen Menschen oder zwischen Mensch und Agent übersteigt, bevor verstanden ist, unter welchen Bedingungen solche Interaktionen gut funktionieren.
Agenten unterscheiden sich fundamental von Menschen: Sie arbeiten über längere Zeiträume durchgehend, erfassen große Informationsmengen sofort und verfügen über eine Wissensbreite, die einzelne Menschen übertrifft. Gleichzeitig neigen sie zu Konfabulation und Reward Hacking. Trotz Fortschritten im Alignment ist laut Anthropic wenig darüber bekannt, wie sich Modelle in komplexen, realen Multiagenten-Umgebungen verhalten. Problematisch ist dabei, dass an sich harmlose Verhaltenseigenheiten einzelner Agenten sich zu unerwünschten Ergebnissen auf Systemebene aufsummieren können.
Als konkretes Experiment beschreibt Anthropic einen Test zur Softwareschwachstellen-Erkennung: Statt einzelne Agenten unabhängig voneinander auf einzelne Codebasen anzusetzen (Ansatz aus dem eigenen Project Glasswing zum Scannen von Open-Source-Software), wurden 45 Agenten mit jeweils eigener virtueller Maschine, einem gemeinsamen Forum zur Koordination und einem identischen Prompt ausgestattet, um Schwachstellen in 15 Open-Source-Projekten zu finden. Die Agenten sollten sich gegenseitig per Peer-Review bewerten, ein separater Arbiter-Agent entschied final, ob eine gemeldete Schwachstelle neu und valide war.
Verglichen wurden zwei Modelle, Claude Mythos Preview und Opus 4.8, jeweils im koordinierenden Schwarm-Modus gegen den klassischen parallelen Ansatz. Der koordinierende Agentenschwarm lief über einen längeren Zeitraum und fand neue Schwachstellen mit näherungsweise konstanter Rate, während die unabhängigen Parallelagenten auf eine begrenzte Anzahl von Stellen angesetzt wurden, wodurch sich deren Funde nicht in eine klare Reihenfolge bringen ließen; Anthropic berichtet hier lediglich den gesamten Tokenverbrauch als Vergleichsgröße.
Für Entscheider mit Verantwortung für KI-gestützte Entwicklungs- und Sicherheitsprozesse liefert die Studie einen frühen Hinweis darauf, dass Koordination zwischen Agenten potenziell effizienter sein kann als reine Parallelisierung, zugleich aber neue Klassen von Fehlermodi entstehen, die bei der Auslegung von Governance- und Monitoring-Strukturen für Agentenflotten berücksichtigt werden sollten.
Quelle: www.anthropic.com · Erschienen 13. August 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.8.3.