Auf den Punkt: Der BfDI bewertet das direkte Training von KI-Modellen mit echten Steuerdaten als datenschutzrechtlich kritisch, da Memorisierung von Bürgerdaten ein bekanntes Risiko darstellt.
Finanzbehörden planen, KI-Modelle mit echten Steuerdatensätzen zu trainieren. Die Bundesdatenschutzbeauftragte (BfDI) mahnt zur Vorsicht, da trainierte Modelle personenbezogene Daten memorisieren könnten.
Finanzbehörden erproben den Einsatz von KI-Systemen zur Effizienzsteigerung ihrer Prozesse. Dabei werden echte Steuerdatensätze als Trainingsdaten vorgesehen, um die Modelle an die spezifischen Anforderungen der Steuerprüfung und Verwaltung anzupassen.
Die Bundesdatenschutzbeauftragte sieht in diesem Ansatz ein erhebliches Datenschutzrisiko. Ein zentrales Problem: Große Sprachmodelle und neuronale Netzwerke können während des Trainings personenbezogene Daten aus dem Trainingsdatensatz memorisieren – also intern speichern – und diese später in ihren Ausgaben rekonstruieren oder offenlegen. Dies betrifft sensible Informationen wie Einkommensdaten, Vermögensangaben und weitere Steuerdaten von Millionen Bürgern.
Für Datenschutzverantwortliche ergibt sich daraus eine Konfrontation zwischen Optimierungszielen und Datenschutzanforderungen: Die Rechtmäßigkeit des KI-Einsatzes muss bereits beim Design gewährleistet sein (Privacy by Design), nicht erst nachträglich geprüft werden. Das Trainieren mit echten, nicht anonymisierten Daten tangiert die Speicherminimierung und das Risiko, dass die Rechtsgrundlage (etwa Zweckbindung nach DSGVO) nicht erfüllt bleibt.
Finanzbehörden müssten stattdessen auf synthetische Daten, Anonymisierungstechniken oder stark aggregierte Datensätze ausweichen – auch wenn dies die Modellgenauigkeit beeinträchtigen könnte. Dies ist ein häufiges Dilemma bei der öffentlichen KI-Nutzung: Höhere datenschutzrechtliche Standards und technische Sicherheit kosten oft Leistung.
Quelle: www.golem.de · Erschienen 12. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.6.5.