Auf den Punkt: KI-Chatbots unterscheiden sich erheblich in ihrer Zuverlässigkeit bei der Erkennung von Falschinformationen – Vertrauen auf bloße Bestätigung ist risikobehaftet.
Golem.de hat fünf KI-Systeme mit sieben bewusst manipulierten Texten getestet, um ihre Fähigkeit zur Faktenüberprüfung zu evaluieren. Ein Modell zeigte dabei deutlich bessere Ergebnisse als die anderen.
Die Forschung der Golem.de-Redaktion untersucht ein zentrales Vertrauensproblem: Können Nutzer darauf ausgehen, dass ein Chatbot Falschinformationen erkennt und korrekt kennzeichnet? Das Test-Setup arbeitete mit sieben präparierten Fake-Texten, die gezielt Falschbehauptungen enthielten, um zu beobachten, wie fünf unterschiedliche KI-Systeme damit umgehen.
Das Ergebnis zeigt keine einheitliche Reaktion. Die getesteten Modelle unterschieden sich erheblich in ihrer Fähigkeit, manipulierte Aussagen zu identifizieren. Ein Modell setzte sich deutlich von den anderen ab – vermutlich durch bessere Grundtraining-Daten oder robustere Prüfmechanismen. Die anderen vier zeigten deutlich heterogenere Resultate, einige erkannten bestimmte Fake-Texte gar nicht oder bestätigten sie sogar.
Aus Sicht von CTOs und Verantwortlichen in der Systementwicklung unterstreicht der Test eine kritische Erkenntnis: Es ist grundsätzlich gefährlicher, wenn ein Modell eine Falschinformation mit hoher Überzeugung bestätigt, als wenn es zugeben würde, keine Antwort zu haben. Solche „selbstbewussten“ Fehlaussagen werden von Nutzern eher akzeptiert und weitergegeben – ein Effekt, den Sicherheitsexperten als Halluzination im Kontext von Factual Grounding bezeichnen.
Die Studie verdeutlicht, dass die Integrationsentscheidung für KI-basierte Fact-Checking-Features nicht naiv getroffen werden kann. Eine genaue Evaluierung des gewählten Modells unter den Bedingungen des geplanten Einsatzkontexts wird notwendig, um unerwünschte Effekte – insbesondere systematische Falschbestätigungen – zu minimieren.
Quelle: www.golem.de · Erschienen 17. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.