Auf den Punkt: Unkontrollierte KI-Nutzung durch Mitarbeiter gefährdet Datensicherheit und Compliance – Netzwerk-Monitoring und klare KI-Richtlinien sind essentiell zur Risikominderung.
Mitarbeiter setzen zunehmend KI-Tools ohne IT-Freigabe ein – ein Phänomen, das als Shadow AI bekannt ist. Dies gefährdet Datenschutz, Compliance und die Kontrolle über sensible Geschäftsinformationen.
Shadow AI bezeichnet die unkontrollierte Nutzung von KI-Anwendungen durch Mitarbeiter ohne Wissen oder Genehmigung der IT- und Sicherheitsbereiche. Häufig werden kostenlose oder leicht zugängliche Tools wie ChatGPT, Copilot oder spezialisierte KI-Services direkt in Workflows integriert – ohne dass Sicherheitsmaßnahmen oder Datenklassifizierung berücksichtigt werden.
Für CISOs stellt dieses Phänomen eine doppelte Herausforderung dar: Zum einen können Mitarbeiter versehentlich oder absichtlich sensible Unternehmensdaten an externe KI-Plattformen weitergeben, etwa Quellcode, Kundenlisten oder interne Dokumentation. Zum anderen entstehen Compliance-Lücken, da unkontrollierte Datenverarbeitung Anforderungen der DSGVO, NIS-2, branchenspezifischer Regulierung oder unternehmensinterner Richtlinien verletzt. Hinzu kommt das Risiko von Prompt-Injection-Angriffen oder unerwarteten Ausgaben von KI-Systemen, die in produktiven Prozessen kritische Fehler verursachen.
Um Shadow AI zu bekämpfen, sind mehrere Maßnahmen notwendig: Umfassende Netzwerk- und Datenfluss-Visibilität ermöglicht die Erkennung verdächtiger Datenübertragungen zu KI-Plattformen. Cloud-Access-Security-Broker (CASB) oder Endpoint-Detection-and-Response-(EDR-)Lösungen können unbefugte KI-Tool-Nutzung protokollieren. Parallel sollten Organisationen eine klare Richtlinie zur Nutzung generativer KI etablieren und Mitarbeitern genehmigte, sichere Alternativen bereitstellen – etwa lokal gehostete oder vertraglich abgesicherte Enterprise-KI-Lösungen. Schulungen zur Datensensibilität helfen, das Risikobewusstsein zu schärfen.
Quelle: www.computerweekly.com · Erschienen 9. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.6.5.