Auf den Punkt: Anthropic fordert eine Luftfahrtaufsicht ähnliche Regulierungsbehörde oder beauftragte private Prüfer, um KI-Modelle vor ihrer Freigabe auf kritische Risiken zu untersuchen.
Dario Amodei, CEO von Anthropic, verlangt staatliche Kontrollmechanismen für leistungsstarke KI-Systeme. Regierungen sollten in der Lage sein, gefährliche Modelle zu stoppen, insbesondere wenn Cybersicherheit, Biowaffen und Kontrollverlust gefährdet sind.
Dario Amodei hat in einem Blogbeitrag konkrete Forderungen zur KI-Regulierung formuliert: Leistungsstarke KI-Modelle müssten vorab auf Risiken geprüft werden, bevor sie zum Einsatz kommen. Im Fokus stünden dabei Cybersicherheit, Biowaffen-Missbrauch sowie der mögliche Kontrollverlust über autonome Systeme. Auch eine automatisierte Weiterentwicklung der Software, die diese Risiken verstärken könnte, sollte unter Aufsicht stehen.
Als organisatorisches Vorbild nennt Amodei eine Behörde, die der staatlichen Flugverkehrskontrolle ähnelt. Alternativ könnten auch von der Regierung beauftragte private Prüfer diese Aufgabe übernehmen. Damit positioniert sich Anthropic als Befürworter stärkerer Regulierung – eine Haltung, die innerhalb der KI-Branche und seitens des Weißen Hauses teilweise auf Kritik gestoßen ist.
Hintergrund für diese Position ist auch Anthropics eigenes Forschungsergebnis: Das KI-Modell Mithril der Firma konnte Schwachstellen in weit verbreiteter Software aufdecken, die teilweise Jahrzehnte lang unentdeckt geblieben waren. Dies verstärkt die Besorgnis, dass KI-Systeme für großflächige Cyberangriffe missbraucht werden könnten. Anthropic ist mit seinem Sprachmodell Claude einer der direkten Konkurrenten von OpenAIs ChatGPT.
Quelle: www.it-daily.net · Erschienen 11. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.6.5.