Auf den Punkt: KI-generierte Deepfakes aus Stimme und Video sind mittlerweile so überzeugend, dass sie traditionelle Sicherheitsmaßnahmen und menschliche Wachsamkeit gleichermaßen aushebeln, wie der 25-Millionen-Dollar-Betrugsfall bei Arup zeigt.
KI-generierte Stimmen und Videos ermöglichen mittlerweile täuschend echte Betrugsanrufe, gegen die klassische Sicherheitsmaßnahmen kaum ansetzen können. Der Fall des britischen Ingenieurunternehmens Arup mit einem Schaden von rund 25 Millionen US-Dollar zeigt das Ausmaß der Bedrohung.
Angreifer nutzen zunehmend öffentlich verfügbares Material, um Deepfakes zu erzeugen: Ausschnitte aus sozialen Medien, Podcasts, aufgezeichneten Präsentationen oder Presseinterviews reichen bereits aus, um innerhalb weniger Minuten eine synthetische Stimme zu generieren. Diese Klone bilden emotionale Nuancen und individuelle Sprachmuster ab. In Kombination mit synthetisch erzeugtem Video entsteht eine Illusion, die für Mitarbeiter im Arbeitsalltag kaum von einer echten Videokonferenz zu unterscheiden ist.
Anfang 2024 verlor das britische Ingenieurunternehmen Arup nach eigenen Angaben rund 25 Millionen US-Dollar durch einen solchen Angriff. Ein in Hongkong ansässiger Finanzmitarbeiter nahm an einer scheinbar legitimen Videokonferenz mit dem CFO und weiteren Kollegen teil und veranlasste daraufhin Überweisungen. Tatsächlich waren sämtliche Gesichter, Stimmen und Gesprächsinhalte in dieser Konferenz KI-generiert.
Für Sicherheitsverantwortliche bedeutet dies, dass Vertrauen in visuelle und akustische Identifikation als alleiniges Authentifizierungsmerkmal nicht mehr ausreicht. Wachsame Mitarbeiter werden durch die Qualität moderner Deepfakes gezielt getäuscht, da die Angriffe auf realem, öffentlich zugänglichem Material basieren und dadurch besonders glaubwürdig wirken. Klassische technische Schutzmaßnahmen wie E-Mail-Filter oder Endpoint-Security greifen bei diesen Social-Engineering-Angriffen kaum, da der Angriffsvektor die menschliche Wahrnehmung selbst ist.
In der Praxis empfiehlt sich daher die Einführung verifizierter Rückrufverfahren und Codewörtern für sensible Transaktionsfreigaben, unabhängig davon, wie überzeugend eine Video- oder Sprachanfrage erscheint. Unternehmen sollten Freigabeprozesse für Zahlungen so gestalten, dass eine einzelne Videokonferenz oder ein Anruf allein niemals als ausreichende Autorisierung gilt, sondern zusätzliche, aus dem üblichen Kommunikationskanal unabhängige Bestätigungswege erforderlich sind.
Quelle: www.computerweekly.com · Erschienen 17. Mai 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.8.2.