Auf den Punkt: Large Language Models spiegeln die Gewichtungen ihrer Trainingsdaten wider – wer darin überrepräsentiert ist, welche Perspektiven als Standard gelten und welche Sichtweisen fehlen, prägt jede Ausgabe des Modells.
Unternehmen behandeln KI-Modelle oft wie Strom aus der Steckdose – ohne zu fragen, was darin steckt. Doch die Trainingsdaten, ihre Herkunft und die darin kodierten Weltbilder haben erhebliche Konsequenzen für Unternehmens- und Rechtsfragen.
Unternehmen fokussieren derzeit auf Use Cases, Effizienzgewinne und Pilotprojekte, stellen aber rarely Fragen zur Zusammensetzung der zugrunde liegenden Modelle. Ein Large Language Model ist keine Suchmaschine oder Dokumentenverwaltung, sondern das Resultat eines Trainingsprozesses: Ein System wird mit enormen Mengen Text gefüttert und lernt dabei statistische Muster – welche Wörter aufeinander folgen, welche Konzepte zusammenhängen, wie Sprache in bestimmten Kontexten funktioniert. Was gespeichert wird, sind nicht die Texte selbst, sondern Milliarden von Zahlenwerten (Gewichte), die kodieren, was das Modell weiß.
Die Qualität, Auswahl und Herkunft der Trainingsdaten bestimmen, welche Fähigkeiten ein Modell hat, welche Lücken es aufweist und welche Sichtweisen es als selbstverständlich behandelt. Hier offenbaren sich erste Probleme: Kein etablierter Anbieter legt seine Trainingsdaten vollständig offen. Im besten Fall ist die Herkunft nicht mehr nachvollziehbar, im schlechtesten Fall wurden Inhalte ohne Genehmigung verwendet. Entsprechende Verfahren gegen praktisch alle großen Anbieter sind anhängig. Für Unternehmen, die auf diesen Modellen aufgebaut haben, ist noch unklar, welche Konsequenzen sich ergeben könnten – insbesondere wenn Gerichte entscheiden, dass bestimmte Trainingsdaten illegal eingesetzt wurden.
Trainingsdaten transportieren nicht nur Wissen, sondern auch Haltungen und Bewertungen. In den Texten, aus denen ein Modell lernt, steckt, was als normal gilt, was als problematisch eingestuft wird, wessen Perspektive als Standard gesetzt wird und wessen als Ausnahme. Ein Sprachmodell, das überwiegend mit englischsprachigen Quellen aus westlichen Kontexten trainiert wurde, hat diese Gewichtungen verinnerlicht – in den ersten Beispielen, die es nennt, in den Assoziationen, in dem, was es neutral formuliert oder als problematisch markiert. Das ist nicht absichtlich, sondern die direkte Folge davon, wie oft bestimmte Gruppen im Datensatz vorkommen und wie über sie geschrieben wird. Diskriminierung entsteht hier nicht durch böse Absicht, sondern durch Repräsentationsmuster.
Kritisch wird dies, wenn KI direkt über Menschen urteilt – bei Bewerberauswahl, Kreditvergabe oder Kundenscoring. Unternehmen, die nicht wissen, auf welchem Weltbild ihre Modelle basieren, bemerken das Problem spätestens, wenn der erste Fall vor Gericht landet. Ein Vorstand oder Chief Data Officer sollte daher grundsätzlich wissen, welche Trainingsdaten, Lizenzen und impliziten Sichtweisen hinter dem eingesetzten Modell stehen – bevor der erste Prompt formuliert wird.
Ein zusätzliches Kostensignal: LLM-Entwicklung findet heute im Wesentlichen in zwei Sprachräumen statt – dem englischen und dem chinesischen. Alle anderen Sprachen spielen eine untergeordnete Rolle, was sich direkt in Qualität und Preismodellen widerspiegelt. Wer auf Deutsch oder anderen Sprachen arbeitet, bezahlt für diese strukturelle Benachteiligung mit.
Quelle: www.it-daily.net · Erschienen 12. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.1.