Auf den Punkt: KI-Nutzung am Arbeitsplatz führt zu kognitiver Kapitulation, bei der Mitarbeiter die kritische Überprüfung aufgeben und fehlerhafte maschinelle Ergebnisse unkritisch akzeptieren.
Forscher der Wharton School zeigen, dass Angestellte fehlerhafte KI-Outputs zu 80 Prozent ungeprüft übernehmen und dabei gleichzeitig unbegründet ihr Vertrauen in die Ergebnisse steigern. Das Phänomen der kognitiven Kapitulation gefährdet die strategische Urteilskompetenz von Unternehmen.
Die Wharton School untersucht in ihrer aktuellen Forschungsarbeit ein Phänomen, das die Wirtschaftswissenschaftler Steven Shaw und Gideon Nave als kognitive Kapitulation bezeichnen: die reflexartige Übernahme von KI-generierten Ergebnissen bei minimaler kritischer Überprüfung. Der menschliche Verstand tendiert dazu, sowohl eigene Intuition als auch logische Überlegungen auszuschalten, sobald ein KI-System eine Antwort liefert. Die Forscher erweitern damit das etablierte Modell des Psychologen Daniel Kahneman, das menschliches Denken in ein schnelles intuitives (System 1) und ein langsames reflektiertes System (System 2) unterteilt. Mit algorithmengestützten Werkzeugen entsteht zusätzlich ein externes System 3 — die künstliche Kognition. Wenn dieses System die menschliche Denkleistung nicht bloß unterstützt, sondern ersetzt, verliert der Mitarbeiter seine Funktion als Kontrollinstanz.
Die quantitativen Auswirkungen auf die Unternehmensleistung sind erheblich. In den Tests der Wharton School stieg die Genauigkeit der Probanden zwar signifikant an, wenn die KI korrekte Daten lieferte. Sobald das System jedoch fehlerhafte Ergebnisse ausgab, fiel die Erfolgsquote der KI-Nutzer unter die Basiswerte von Personen, die ohne algorithmische Unterstützung arbeiteten. Das zentrale Problem ist die Unfähigkeit der Anwender, Qualitätsunterschiede zu erkennen: Die Versuchspersonen akzeptierten falsche KI-Antworten in 80 Prozent der Fälle. Gleichzeitig stieg das Vertrauen der Mitarbeiter in die Richtigkeit ihrer Arbeit unabhängig davon, ob die Technologie ihnen geholfen oder sie in die Irre geführt hatte.
Diese Dynamik ist bei großen Sprachmodellen besonders kritisch. Solche Modelle rufen keine verifizierten Fakten ab, sondern generieren plausible Textmuster auf Basis historischer Trainingsdaten. Sie beziehen sich nicht auf spezifischen Unternehmenskontext, strategische Ziele oder situatives Fachwissen. Da sie jede Antwort mit einheitlicher sprachlicher Gewissheit formulieren, ohne Unsicherheiten zu signalisieren, wird die kritische Distanz des Nutzers systematisch abgebaut.
Eine Studie von Microsoft Research aus April 2025 bestätigt diese Erkenntnisse: Das Vertrauen in ein KI-Werkzeug ist der stärkste Prädiktor dafür, ob Wissensarbeiter überhaupt noch kritisches Denken anwenden. Je höher das Vertrauen, desto geringer die Bereitschaft, Ergebnisse zu hinterfragen. Langfristig droht Unternehmen dadurch ein Verlust an interner Fachkompetenz. Wenn routinemäßige kognitive Aufgaben vollständig an externe Systeme übertragen werden, entfällt die kontinuierliche Praxis, die zur Aufrechterhaltung der menschlichen Urteilskraft erforderlich ist — die Fähigkeit zur unabhängigen Bewertung komplexer Sachverhalte degeneriert.
Quelle: www.it-daily.net · Erschienen 5. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.5.2.