Ein Mann schläft scheinbar auf dem britischen Politiker Jacob Rees-Mogg, tatsächlich handelt es sich aber um eine Fälschung

© Twitter/Alejandro Negueruela

Politik Inland
09/09/2019

Digitale Fälschungen: Nicht alles glauben, was man sieht

Mittlerweile reicht eine App, um täuschend echt wirkende Fake-Videos zu erstellen. Das bereitet vor allem der Politik Probleme.

von Michael Leitner, Yvonne Widler

Er lehnte sich entspannt zurück, legte die Hände auf dem Bauch übereinander und schloss die Augen. Der konservative, britische Politiker Jacob Rees-Mogg zog es vor, während seine Kollegen über den Brexit debattierten, ein vermeintliches Nickerchen zu machen und breitete sich über drei Sitzplätze der sofagleichen Parlamentsbank aus.  Er wollte wohl demonstrieren, wie gelangweilt er von den Diskussionen ist - tatsächlich geschehen letzte Woche im britischen Parlament.

Die Entrüstung war groß. Noch größer der Unterhaltungswert in den sozialen Medien, nachdem das Foto von dem schlafenden Politiker einigen Bearbeitungsprozessen zum Opfer gefallen war. Besonders stach ein Posting heraus, in dem sich der Urheber an die Seite Rees-Moogs retuschierte, das T-Shirt auszog, an ihn kuschelte, ihn sogar streichelte. Das Meme ging viral. 

Solche Inhalte führen uns schonungslos vor Augen, wie schnell digitale Fälschungen heutzutage produziert und im Netz sind. Und dabei bedient sich dieses spezielle Video noch gar nicht der modernsten Methoden am Markt.

Die neueste Technik im Bereich der Digitalfälschungen nennt sich „Deep Fake“. Die Inhalte sehen und klingen überzeugender und realistischer als alles jemals zuvor Dagewesene. „Deep Fake“ kann für Videos und auch Audios verwendet werden, mithilfe einer Künstlichen Intelligenz, die von authentischem Material lernt, werden neue Wahrheiten produziert. Gesichter können täuschend echt auf bestehenden Filmsequenzen implementiert werden, inklusive detailgetreuer Mimik. 

Obama beschimpft Trump als "Volldepp"

Beispiele für diese gefälschten Inhalte gibt es mittlerweile immer mehr. Im frühen Sommer tauchte ein Video von der US-Demokratin Nancy Pelosi auf. Sie scheint bei einem offiziellen Auftritt betrunken zu sein. Dass es ein Fake ist, ist mit freiem Auge nicht zu erkennen. US-Präsident Donald Trump teilte das Video umgehend auf Twitter mit seinen 64 Millionen Followern.
Auch Facebook-Gründer Mark Zuckerberg blieb nicht verschont. So kursierte ein Video auf Instagram, in dem er über die Weltherrschaft sinniert und über die gestohlenen Daten von Milliarden Menschen spricht. 

Eines der bekanntesten Deep Fakes handelt vom ehemaligen US-Präsidenten Barack Obama. Donald Trump sei ein Volldepp, schimpft er in dem Clip aus dem Jahr 2018. Das Video stammt von Obama-Imitator Jordan Peele - in einer Kooperation mit dem Medienportal Buzzfeed. Sie nutzten damals die „Fake App“, mit der man den eigenen Mund mit dem einer anderen Person überlagern und sie sagen lassen kann, was man will. Das Ziel des Projekts war es die User aufzurufen, nicht alles zu glauben, was sie online sehen und hören.

Deep Fakes sind inzwischen so gut entwickelt, dass Menschen sie oft nicht mehr von echten Inhalten unterscheiden können. Unlängst kam es etwa zu einer schwerwiegenden Täuschung. So hatte ein Betrüger die Stimme eines Firmenchefs mithilfe einer Deep-Fake-Software manipuliert und 220.000 Euro ergaunert. Der Betrüger hatte seinen Gesprächspartner beauftragt, eine Summe in Höhe 220.000 Euro an einen ungarischen Zulieferer zu überweisen. Der Geldtransfer sei dringend. Der britische Manager führte die Anordnung umgehend aus.

Aus Österreich sind (noch) keine problematischen Deep Fakes bekannt, aber auch hierzulande sorgte die neu erschienen App Zao für großes Aufsehen. Es handelt sich dabei um ein chinesisches Produkt, mit dem es - so einfach wie noch nie zuvor - gelingt, Deep Fakes zu erstellen. 

Zao ist Mandarin für "etwas erschaffen oder bauen". Der Name ist Programm: Der Nutzer lädt ein Foto von seinem Gesicht hoch und die App platziert es in einem Video. So ersetzt man bereits nach wenigen Sekunden Hollywood-Star Leonardo DiCaprio in Titanic oder steht statt Tech-Milliardär Jack Ma auf der Bühne einer Konferenz. Hinter Zao steht der chinesische Internet-Konzern Momo, der eine gleichnamige Social-Media-Plattform betreibt. Diese dominiert unter anderem den chinesischen Online-Dating-Markt, zuletzt expandierte man aber auch in andere Bereiche, wie Video-Streaming.

Die App ist derzeit nur in chinesischen App Stores verfügbar, für die Anmeldung benötigt man eine chinesische Telefonnummer. Die Benutzeroberfläche ist zudem ausschließlich in Mandarin verfügbar. Der KURIER hat die App zu Testzwecken dennoch installiert und ausprobiert.

Die App ist in vier Bereiche unterteilt: Videos, Sticker, Kontakte und Mein Profil. Im Video-Bereich kann man aus einer Vielzahl an kurzen Video-Clips auswählen, der Großteil davon aus asiatischen Filmen, TV-Serien und Musikvideos. Um sich in Leonardo DiCaprio oder Emma Watson zu verwandeln, muss man lediglich eines der entsprechenden Videos auswählen und ein einfaches Selfie machen. Das Ergebnis steht innerhalb von 30 Sekunden zum Download bereit und ist oftmals verblüffend realistisch. Damit aber deutlich ist, dass es sich um eine Fälschung handelt, wird das Video mit einem Wasserzeichen versehen.

Wie bei vielen anderen Deep-Fake-Programmen kommt auch bei Zao eine aus dem Maschinellen Lernen bekannte Technologie namens GAN (Generative Adversial Networks) zum Einsatz. Dabei werden zwei KI-Systeme, sogenannte neuronale Netzwerke, aufgesetzt, die sich gegenseitig trainieren. Ein System, der Generator, erzeugt künstliche Inhalte, wohingegen das andere System, der Diskriminator, die Fälschungen erkennen muss. Dieser Prozess sorgt dafür, dass der dahinterliegende Algorithmus stetig verbessert wird.

Derartige GANs erfordern eigentlich viel Rechenleistung und Zeit. Zum Vergleich: Ein 30 Sekunden langes Fake-Video benötigt auf einem normalen Computer mehrere Stunden, in Zao ist dieser Prozess in wenigen Sekunden abgewickelt. Um das zu ermöglichen, lagert das chinesische Unternehmen die Berechnung an seine Datenzentren aus. Obwohl Datenschutz in China eigentlich keine sonderlich große Rolle spielt, sorgte diese Tatsache für Aufregung. Zahlreiche Nutzer beklagten, dass die App die Rechte an den Fotos erhalte und diese auch für kommerzielle Zwecke weiterverwenden kann.

Die App landete dennoch binnen kürzester Zeit auf Platz 1 der chinesischen App-Charts und hält sich seitdem dort hartnäckig. Auch auf den chinesischen Social-Media-Apps Weibo (vergleichbar mit Twitter) und Douyin (Tik Tok) kursieren die Zao-Aufnahmen und verzeichnen bereits mehrere Millionen Aufrufe. Zu unterhaltsam ist es offenbar, sein eigenes Gesicht auf dem Körper eines Prominenten zu platzieren.

Diesen viralen Effekt machte sich bereits vor wenigen Monaten die russische App FaceApp zunutze, in der man sich ebenfalls mithilfe von Machine Learning künstlich älter machen konnte. Auch bei FaceApp gab es Kritik von Datenschützern, die von der Nutzung abrieten. Zao könnte aber auch schon bald in Europa verfügbar sein. Die Entwickler kündigten auf Twitter an, dass eine internationale Version in Arbeit sei.

Videos waren nie fälschungssicher, genauso wenig, wie es Texte, Bilder, Statistiken oder Tonaufnahmen jemals waren. Aber ZAO zeigt, dass es nur eine Frage der Zeit ist, bis möglich ist, was wir vor einigen Jahren noch für unmöglich gehalten haben. Politiker warnen regelmäßig vor gefälschten Videos. Sie hätten das Zeug, die Demokratie an sich zu gefährden. Weil sie es ermöglichen, absolut glaubwürdige Falschmeldungen zu verbreiten, die meinungsbildend sind und damit im schlimmsten aller Fälle sogar Wahlergebnisse beeinflussen könnten. 

Der Gefahr ist man sich auch in der heimischen Politik bewusst. „All das bedeutet, dass wir noch mehr auf Medienkompetenz setzen müssen“, sagt Kampagnen- und Kommunikationsberater Yussi Pick, der im Jahr 2016 im Digitalteam von Hillary Clinton mitgearbeitet hat. Diese offensichtlichen Fakes, wie die Beschimpfung Trumps durch Obama, seien nicht die bedrohliche Gefahr. „Das ist noch Unterhaltung. Und über all den plumpen Videocontent, der kursiert, mache ich mir weniger Sorgen."

Sorgen mache ich mir, dass dieses Einschleichen sehr langsam und vermeintlich harmlos passiert“, sagt Pick weiter. Gefährlich werde es, wenn Menschen aufhören, Dinge zu hinterfragen. Die größte Herausforderung sei es, dass Menschen dazu neigen jene Inhalte, die ihre Meinung bestätigen, zu glauben. Und ein Video wirke da weit stärker als reiner Text oder ein bearbeitetes Foto. Digitale Bildung sei also der Schlüssel. Und die Politik müsse sich dahingehend auch stärker wappnen, da man sich nicht blind darauf verlassen kann, dass Journalisten und Medienhäuser alle Skills besitzen, um wahr von falsch unterscheiden zu können.

Die US-Juristen Bobby Chesney und Danielle Citron brachten im August 2018 eine wissenschaftliche Arbeit heraus, die weltweit Beachtung fand. Auch wenn diese Technologien noch in den Kinderschuhen stecken, so deute sich bereits jetzt ein gewaltiger Realitätskollaps an. In „Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security“ empfehlen sie, dass neue Gesetze und Strafen entwickelt werden müssen. Für jene, die die neuen Technologien missbrauchen.

Aber auch in Österreich wird über die Frage "Echt oder gefälscht?" diskutiert. Nachdem der Falter interne ÖVP-Dokumente zu den Wahlkampfkosten offenlegte, kontert die Partei mit der Ansage, die Dokumente  seien manipuliert. Um den Vorwurf der „doppelten Buchhaltung“ zu entkräften, wurden neue Unterlagen veröffentlicht.