Auf den Punkt: Anthropic schlägt ein koordiniertes Moratorium für die Entwicklung hochleistungsfähiger KI-Modelle vor, um das Risiko selbstverbessernder Systeme zu minimieren.
Anthropic fordert ein Moratorium zur Verlangsamung oder Pausierung besonders fortgeschrittener KI-Modelle, um gesellschaftliche Strukturen anzupassen und Sicherheitsforschung voranzutreiben. Das Unternehmen betont, dass ein solcher Schritt nur mit Einvernehmen aller großen Entwickler funktionieren kann.
Anthropic hat in einem Blogeintrag vorgeschlagen, die Entwicklung besonders fortgeschrittener Künstlicher-Intelligenz-Modelle zu verlangsamen oder zu pausieren. Das Unternehmen begründet dies mit dem schnellen Fortschritt bei der Fähigkeit selbstverbessernder KI-Systeme und dem damit verbundenen Risiko, dass Menschen die Kontrolle verlieren könnten. Ein solcher Meilenstein könnte schneller erreicht werden als viele Institutionen dafür bereit sind, warnt Anthropic.
Das Forschungsinstitut räumt ein, dass ein Moratorium nur mit koordiniertem Einvernehmen aller großen KI-Entwickler funktionieren kann – eine Realität, die derzeit nicht gegeben ist. Die Branche zeigt derzeit eher Tendenzen in die entgegengesetzte Richtung: Unternehmen konkurrieren um hunderte Milliarden Dollar an Investitionen in KI-Infrastruktur wie massive Rechenzentren. CEO Dario Amodei betonte im Januar beim Weltwirtschaftsforum in Davos, dass der technologische Wettlauf mit China eine Verlangsamung der Entwicklung stark erschwert, da durchsetzbare internationale Vereinbarungen kaum realistisch sind. Einseitige Maßnahmen lehnt Anthropic ab, da sie nur verschieben würde, welches Unternehmen oder Land die Führungsposition hat.
Anthropic schlägt konkret die Entwicklung eines Kontrollsystems vor, das Entwicklern Sicherheit geben soll, dass alle Teilnehmer eines solchen Moratoriums sich daran halten und niemand heimlich einen Vorteil erarbeitet. Diese Governance-Struktur könnte als Voraussetzung für ein koordiniertes Vorgehen gelten.
Das Unternehmen, das die KI-Software Claude entwickelt, hat sich wiederholt als Befürworter strengerer regulatorischer Standards positioniert, um Risiken vorzubeugen. Diese Haltung ist in Washington kritisiert worden: Das Weiße Haus unter Präsident Trump wirft Anthropic vor, dass strenge Regulierung die US-amerikanische Industrie im globalen Wettbewerb benachteiligt. Parallel hat Anthropic mit seiner Software Claude Mythos Preview Aufmerksamkeit erregt, die jahrzehntealte, bisher unentdeckte Sicherheitslücken in verschiedenen Programmen identifiziert hat.
Quelle: www.it-daily.net · Erschienen 5. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.5.2.