"Deep Fake": Wie täuschend echte Fälschungen entstehen

Barack Obama bezeichnet Donald Trump als „kompletten Vollidioten“. Mark Zuckerberg hat „die Kontrolle über die gestohlenen Daten von Milliarden Menschen“. Angela Merkel wirbt für Ökostrom. Was man gemeinhin als „Deep Fakes“ bezeichnet, also als realistisch wirkende, aber gefälschte Medieninhalte, sind oft nur Filmtricks.

„Man muss unterscheiden, ob künstliche Intelligenz verwendet wird oder ob es nur Filmeffekte sind“, sagt Horst Eidenberger von der TU Wien. Bei Filmeffekten können digitale Filter oder Masken erstellt werden, die anderen Personen bis aufs Haar ähneln. Hat der Imitator zudem eine ähnliche Gesichtsform, ist die Fälschung nur noch sehr schwer zu erkennen.

Anders sieht es bei „Deep Fakes“ aus, die auf neuronalen Netzwerken fußen. Vereinfacht gesagt zeigt man einem Computer Tausende Stunden Videomaterial zu Obama. Dieser lernt, daraus einen virtuellen Obama zu erstellen. Das ist technisch deutlich aufwendiger und derzeit leichter zu erkennen. „Menschen sind, was Gesichter und Stimmen betrifft, unglaublich heikel“, sagt Eidenberger. Bereits kleinste Abweichungen machen uns stutzig. „Das Deep-Fake-Video mit US-Präsident Obama wurde wohl noch einmal stark von Menschen nachbearbeitet, um ein realistisches Ergebnis zu erreichen.“ Die Technologie wird aber laufend besser. Außerdem hat sie den Vorteil, dass man das gesamte Video rein am Computer erstellen kann – ein Imitator ist nicht notwendig.

Filmtricks

Spezialeffekte beim Film haben ihrerseits in den vergangenen Jahren enorme Fortschritte gemacht. So ist es möglich, sogar verstorbene Schauspieler in einen Film zu retuschieren. Mit dem klassischen Deep Fake hat das aber nichts zu tun, sagt Eidenberger.

Kriminelle erkannten bereits das Potenzial solcher Fälschungen. 2019 nutzte ein Betrüger ein „Deep Fake“ der Stimme eines Firmenchefs, um einen Geldtransfer in Höhe von 220.000 Euro anzuordnen. Weniger erfolgreich war 2022 ein Fake-Video von Elon Musk. Darin versprach der Tesla-Chef eine hohe Rendite auf Krypto-Investments. Einige Hundert Dollar konnten Kriminelle so ergaunern.

Geringen Aufwand bedeuten sogenannte „Cheap Fakes“, also „billige Fälschungen“. Dabei werden Videoschnipsel so aneinandergefügt, bis sie eine gewünschte Aussage vermitteln. Langsamer abgespielte Videos vermitteln den Eindruck, dass die Personen darin betrunken sind. Berühmtestes Opfer davon: US-Politikerin Nancy Pelosi.