Auf den Punkt: Klassische Incident-Response-Frameworks greifen bei AI-Incidents zu kurz, weil sie probabilistische Fehler nicht erfassen und ein neues Klassifizierungsschema mit separaten Playbooks für modell- und extern induzierte Ausfallszenarien erforderlich ist.
Nur 16 % der Organisationen mit AI-Zugriff auf kritische Systeme regeln diesen Zugriff effektiv. CISOs müssen ihre bestehenden Incident-Response-Playbooks überarbeiten, da diese nicht auf die Spezifika von AI-Incidents ausgerichtet sind.
Das 2026 CISO AI Risk Report zeigt ein strukturelles Governance-Problem: 71 % der Organisationen haben AI-Systeme mit Zugriff auf zentrale Geschäftssysteme in Produktion, aber nur 16 % beherrschen diese Zugriffe wirksam. Die Realität in den meisten Betrieben ist dabei ein kritisches Missverständnis: Organisationen haben AI im Produktivbetrieb und ein Incident-Response-Playbook. Sie gehen davon aus, dass diese beiden Dinge miteinander verbunden sind – das tut sich nicht. CISOs, die meinen, ihre bestehenden IR-Playbooks würden AI-Incidents abdecken, haben diese in der Regel nicht getestet. Diejenigen, die sie getestet haben, wissen, dass das nicht funktioniert.
AI-Incidents nahmen zwischen 2023 und 2024 um 56,4 % zu und erreichten 233 dokumentierte Fälle. Gängige IR-Frameworks wie NIST SP 800-61, MITRE ATLAS und die GLACIS AI Incident Response Playbook bieten eine Taxonomie von sechs Incident-Typen – doch diese Klassifizierung verfehlt die entscheidende Unterscheidung: Ausfälle, die das Modell selbst verursacht, versus Ausfälle durch menschliche Einwirkung. Erkennungsstrategie, Containment-Logik und Haftungsrisiko unterscheiden sich grundlegend zwischen beiden Gruppen. Modellbedingte Ausfälle – Modellverschlechterung, Bias, Halluzinationen – entstehen, wenn das System genau nach Spezifikation, aber fehlerhaft funktioniert. Das Epic Sepsis Model, das in Hunderten US-amerikanischer Krankenhäuser eingesetzt wurde, zeigte bei der Validierung an externen Daten nur eine Sensitivität von 33 %. Es übersah zwei Drittel der tatsächlichen Sepsisfälle und bombardierte Ärzte mit Fehlalarmen – wie eine Studie des JAMA Internal Medicine 2021 feststellte. Niemand griff das System an. Es funktionierte einfach still im Hintergrund nicht mehr, während alle Dashboards grün blieben.
Extern induzierte Ausfälle – adversarische Angriffe, Datenvergiftung, Datenschutzverletzungen – entstehen durch Manipulation von Eingaben oder Trainingsumgebung. Teslas Autopilot-Phantom-Braking-Fälle, untersucht von der NHTSA über Hunderttausende Fahrzeuge, zeigen, wie Eingabefehler in sicherheitskritischen Systemen aussehen. Diese beiden Gruppen benötigen unterschiedliche Primärverteidigungen und eigene Playbooks.
Die höchste rechtliche Exposition birgt derzeit der Hybrid-Fall. Halluzinationen stammen vom Modell, landen aber vor Gericht wie menschliche Fehler. Als Airs Canada Chatbot eine erfundene Trauertarifrichtlinie präsentierte, wurde die Airline haftbar. Als das US-Bundesgericht dem Fall Mobley v. Workday Vorschuss gewährte, akzeptierte es, dass eine AI-Recruiting-Plattform direkt als „Agent“ der Arbeitgeber haftbar sein kann. Keine dieser Fehler sah wie ein Sicherheitsincident aus. Beide endeten als rechtliche. Das klassische CIA-Triad – Vertraulichkeit, Integrität, Verfügbarkeit – erfasst diese Incidents nicht: Nichts war nicht verfügbar, nichts wurde ohne Autorisierung geändert, nichts wurde offengelegt. Das Framework greift nicht. Durchschnittliche Erkennungszeit für AI-Incidents ist 4,5 Tage, und 67 % der AI-Incidents entstehen durch Modellfehler, nicht durch Angriffe – doch traditionelle IR-Metriken erfassen weder das eine noch das andere wirksam.
Quelle: www.csoonline.com · Erschienen 14. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.