Auf den Punkt: CX-Verantwortliche unterschätzen, dass sie unter dem EU AI Act haftbar sind, wenn KI-Systeme im Kundenservice Hochrisiko-Entscheidungen treffen.
Bei KI-gestützten Kundenservice-Lösungen verschwimmen die Grenzen zwischen Automatisierung und Entscheidungsverantwortung. Nach EU AI Act tragen CX-Teams rechtlich die finale Verantwortung für algorithmische Ergebnisse.
Künstliche Intelligenz entscheidet in modernen Kundenservice-Umgebungen zunehmend eigenständig über Kundenanfragen, Eskalationen und Service-Lösungen. Shana Simmons, Chief Legal Officer bei Zendesk, warnt davor, dass Organisationen die rechtlichen Implikationen dieser Entwicklung unterschätzen: Wer trägt Haftung, wenn ein KI-System eine fehlerhafte oder diskriminierende Entscheidung trifft?
Nach dem EU AI Act müssen Betreiber hochriskanter KI-Systeme strikte Compliance-Anforderungen erfüllen. Kundenservice-KI fällt in diese Kategorie, wenn sie Entscheidungen trifft, die Zugang zu kritischen Services verweigern oder Kunden benachteiligen. Das bedeutet konkret: Dokumentation aller Trainingsdaten, nachvollziehbare Entscheidungskriterien (Transparenzanforderungen) und regelmäßige Audits sind nicht optional.
Das CX-Team trägt letztlich die operative Verantwortung. Es muss sicherstellen, dass KI-Systeme nicht diskriminierend wirken, dass Kunden verstehen, dass eine Maschine entschieden hat, und dass Eskalationspfade zu menschlichen Agents existieren. Transparenz bedeutet dabei nicht, dass Algorithmen „erklärbar“ sein müssen, sondern dass das Unternehmen dokumentieren und nachweisen kann, auf welcher Grundlage die KI agiert.
Organisationen, die KI im Kundenservice einsetzen, müssen deshalb frühzeitig mit Legal, Compliance und Data Governance abstimmen. Die Illusion, dass KI-Implementierungen primär ein technisches oder Marketing-Problem sind, ist gefährlich geworden.
Quelle: itwelt.at · Erschienen 17. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.1.