Auf den Punkt: KI-Assistenten ignorieren beim Zugriff auf Unternehmensdaten oft bestehende Berechtigungsstrukturen und legen dadurch sensible Informationen offen, die einzelnen Nutzern nicht zugedacht sind.
Viele unternehmenseigene KI-Assistenten und generative KI-Plattformen beachten bestehende Berechtigungsstrukturen nicht konsequent und legen dadurch sensible Informationen offen, die einzelnen Nutzer nicht zugänglich sein dürften. Das Problem bleibt oft unbemerkt und ist ein zentrales Risiko bei KI-Implementierungen in Unternehmen.
Unternehmen setzen zunehmend KI-Assistenten ein, um Mitarbeitende mit schnellen Antworten auf Basis unternehmensinterner Dokumente, E-Mails und Dateien zu unterstützen. Jedoch zeigt sich in der Praxis ein erhebliches Sicherheitsproblem: Die KI-Systeme analysieren zentral auf große Datenmengen zu und generieren Antworten, ohne dabei die bestehenden Zugriffsbeschränkungen konsequent einzuhalten. Während klassische IT-Infrastruktur wie Active Directory oder SharePoint über Jahre hinweg aufgebaute Berechtigungsstrukturen strikten definieren, gehen diese Grenzen in KI-Plattformen teilweise verloren.
Das technische Kernproblem liegt in der Architektur moderner Cloud-KI-Systeme. Daten aus verschiedenen Quellen werden in sogenannten Vektorindizes zusammengeführt, um schnellere Suchen zu ermöglichen. Bei diesem Prozess werden Berechtigungsstrukturen häufig nur unvollständig oder gar nicht übernommen. Das führt dazu, dass ein Mitarbeiter beispielsweise auf Gehaltsinformationen, interne Bewertungen oder strategische Planungen Zugriff erhält, die eigentlich nicht für ihn bestimmt sind. Microsoft warnt selbst bei Copilot for Microsoft 365 vor Oversharing als einem der größten Implementierungsrisiken. Concentric AI verweist darauf, dass in vielen Unternehmen ein erheblicher Teil geschäftskritischer Dateien zu breit freigegeben ist. Zusätzlich entstehen Verzögerungen bei der Aktualisierung von Berechtigungen in KI-Systemen, was selbst nach der formalen Rechteanpassung kurzzeitig zu Datenlecks führen kann.
Besonders kritisch ist die Tatsache, dass diese Vorgänge meist unbemerkt bleiben – es gibt keine Warnmeldungen und keinen sichtbaren Hinweis auf die nicht autorisierten Informationsweitergaben. Als Lösungsansatz werden lokale KI-Systeme propagiert, die Berechtigungen nicht neu definieren, sondern automatisch und direkt aus Quellsystemen wie Active Directory oder LDAP übernehmen. Dadurch würden zwei Mitarbeiter bei derselben Frage unterschiedliche Antworten erhalten, abhängig von ihren jeweiligen Zugriffsrechten – die KI würde Inhalte also nur dann präsentieren, wenn der Nutzer dazu berechtigt ist.
Quelle: www.it-daily.net · Erschienen 3. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.2.9.