Stellen Sie sich vor: Plötzlich hört man die Stimme des Chefs, der einen improvisierten Videoanruf verlangt. Im Hintergrund: das gleiche alte Büro, die üblichen Gesten, der vertraute Ton. Was ist, wenn nichts davon wirklich real ist? Das ist genau das, was gerade geschieht. Die eingesetzten Deepfakes sind oft so realistisch, dass selbst wachsame Mitarbeiter selten misstrauisch werden und Angreifer das Vertrauen der Menschen absichtlich ausnutzen. Diese Angriffe erscheinen sehr glaubwürdig, weil sie auf authentischem Material basieren: Inhalte aus sozialen Medien, Podcasts, aufgezeichneten Präsentationen oder Presseinterviews reichen häufig aus, um eine KI-Stimme in nur wenigen Minuten zu erzeugen, komplett mit emotionalen Nuancen und unverwechselbaren Sprachmustern. In Kombination mit synthetischem Video erzeugt es eine überzeugend realistische Illusion, dass traditionelle Sicherheitsmaßnahmen weitgehend machtlos sind. Der KI-Tsunami nähert sich. Anfang 2024 verlor das britische Ingenieurunternehmen Arup etwa 25 Millionen Dollar, als sich ein in Hongkong ansässiger Finanzbeamter einem scheinbar legitimen Videogespräch mit dem CFO und anderen Kollegen anschloss. Tatsächlich wurden die Gesichter, Stimmen und Materialien von KI erstellt. Deepfakes sind nur ein sichtbares Zeichen einer viel größeren Transformation.
ComputerWeekly.de