Auf den Punkt: Ein Erkennungsverfahren des Fraunhofer IOSB macht die Identifikation von Deepfakes erklärbar statt intransparent.
Forschende des Fraunhofer IOSB haben ein Verfahren entwickelt, das Deepfakes nicht nur identifiziert, sondern die Erkennungsgründe auch transparent nachvollziehbar macht. Das ist relevant für Compliance und Vertrauen in automatisierte Inhaltsverifizierung.
Das am Fraunhofer Institut für Optronik, Systemtechnik und Bildauswertung (IOSB) entwickelte Verfahren kombiniert die automatisierte Erkennung synthetischer Medien mit expliziter Begründung. Dabei werden nicht nur binäre Klassifizierungen getroffen, sondern konkrete Artefakte oder Merkmale aufgezeigt, die auf eine KI-Generierung hinweisen.
Für CDOs und Governance-Verantwortliche ist dieser Ansatz relevant, da er die Anforderungen des EU AI Act an Transparenz und Erklärbarkeit unterstützt. Systeme, die Entscheidungen begründen, lassen sich besser auditieren und regulatorisch rechtfertigen als Black-Box-Klassifizierer. Dies wird zentral, wenn KI-gestützte Medienerkennung in kritischen Kontexten wie Authentifizierung oder Compliance-Prüfungen zum Einsatz kommt.
Der Ansatz adressiert auch das praktische Problem der Nachvollziehbarkeit: Wenn ein System ein Video als Deepfake einstuft, müssen Unternehmen intern und extern erklären können, auf welcher Basis diese Bewertung erfolgte. Das ist nicht nur für interne Dokumentation relevant, sondern auch für Anfechtungen oder Rückfragen durch Betroffene.
Quelle: www.computerweekly.com · Erschienen 2. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.2.