Auf den Punkt: Die Bundesregierung schafft ein eigenes KI-Sicherheitsinstitut, um ihre Analysefähigkeiten bei großen Sprachmodellen unabhängig auszubauen.
Die Bundesregierung plant die Gründung eines neuen Instituts zur Sicherheitsanalyse von KI-Modellen. Damit soll die Expertise im Umgang mit großen Sprachmodellen wie Claude gestärkt werden.
Das geplante KI-Sicherheitsinstitut soll die analytischen Kapazitäten des Bundes bei der Bewertung von KI-Systemen erweitern. Die neue Einrichtung wird sich dabei auf die Prüfung und Analyse von Sprachmodellen konzentrieren, um deren Risikopotenzial zu erfassen.
Für Chief Data und Chief Information Officer in der öffentlichen Verwaltung bedeutet dies eine Stärkung der nationalen Governance-Infrastruktur für KI-Einsätze. Ein solches Institut kann als verlässliche Quelle für Sicherheitsbewertungen dienen und damit die Grundlage für verantwortungsvolle KI-Beschaffung und -Integration in Behörden bilden.
Bundesminister Wildberger betont den Anspruch, mit dem Institut „Experten auf Weltniveau“ bereitzustellen. Dies adressiert sowohl regulatorische Anforderungen wie der AI Act als auch die praktische Notwendigkeit, KI-Risiken eigenständig evaluieren zu können statt sich ausschließlich auf Herstellerangaben zu verlassen.
Quelle: www.heise.de · Erschienen 9. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.6.5.