Auf den Punkt: Nutzer von KI-Standardsoftware gelten unter dem EU AI Act als Verantwortliche für Hochrisiko-Systeme und unterliegen damit denselben Compliance-Anforderungen wie Entwickler.
Der EU AI Act verpflichtet nicht nur KI-Entwickler, sondern auch Unternehmen, die Standard-Software mit integrierten KI-Funktionen einsetzen. Das betrifft potenziell weit mehr deutsche Firmen als bisher angenommen.
Der EU AI Act unterscheidet nicht zwischen Entwicklern und Nutzern von künstlicher Intelligenz. Unternehmen, die Standard-Software mit integrierten KI-Komponenten betreiben, können als sogenannte „Anbieter“ oder „Nutzer mit erheblichem Risiko“ in die regulatorische Pflicht genommen werden. Wer solche Systeme einsetzt, muss die strengen Compliance-Anforderungen für Hochrisiko-KI erfüllen – unabhängig davon, ob die Software als Standardprodukt erworben wurde.
Die praktische Anwendung ist allerdings diffus: Standards zur Umsetzung fehlen vielen Vorschriften, Behördenzuständigkeiten sind teilweise ungeklärt, und wichtige Fristen wurden verschoben. Rechtsexpertin Erena Langley warnt, dass diese Unsicherheit für deutsche Firmen erhebliche Risiken birgt, wenn sie ihre KI-Systeme nicht transparent dokumentieren und überwachen. Wer unter die Hochrisiko-Kategorien fällt – etwa bei KI in der Personalauswahl, im Zugang zu Dienstleistungen oder in der Sicherheitsüberwachung – muss mit Audits, Risikoanalysen und umfangreicher Datenlogging rechnen.
CTOs sollten daher prüfen, welche KI-Funktionen in der eingesetzten Software stecken und in welche Hochrisiko-Kategorie diese fallen. Eine genaue Inventarisierung und frühzeitige Abstimmung mit Compliance- und Rechtsteams ist notwendig, um bei Behördenprüfungen handlungsfähig zu sein.
Quelle: www.security-insider.de · Erschienen 10. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.