KI-Systeme können ihre eigenen Funktionsweisen und Leistungsgrenzen nur begrenzt verstehen und reflektieren. Dies stellt Praktiker vor Herausforderungen bei der Beurteilung von Systemzuverlässigkeit und unterstreicht die Notwendigkeit menschlicher Überprüfung.