Gefälschte Prominente: Was sind Deepfakes?

Das englische Wort "Deepfake" steht für manipulierte Bild- oder Tondateien, die Menschen mit Hilfe von Künstlicher Intelligenz (KI) erstellt haben. Fotos, Videos oder Töne sollen authentisch wirken. Nach der Definition im Duden geht es jedoch in der Regel um eine kriminelle oder auch satirische Absicht. Eine deutsche Übersetzung des Begriffs lautet KI-Fälschung. 

Der sogenannte AI Act, das weltweit erste umfassende Gesetz der Europäischen Union zur Regulierung von KI, definiert einen Deepfake als "einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde". 

Was kann alles gefälscht sein? 

Auf Täuschungsvideos wirkt ein Mensch zum Beispiel, als würde er etwas tun oder sagen. Doch das ist in der Wirklichkeit gar nicht geschehen. Für Täuschungsbilder werden Fotos bewusst verändert oder auch komplett künstlich erstellt. Täuschungsaudios bestehen oft aus Stimmenfälschungen. Dabei klingt eine Stimme nach einer bestimmten Person, sie hat diese Sätze aber nicht gesagt. Das kann Prominente betreffen - aber auch jede andere Person. 

Wie funktioniert das technisch? 

Vereinfacht gesagt lernt eine KI nach dem Willen ihrer Nutzenden typische Muster - etwa Gesichtszüge, Mimik oder Stimmklang - aus vorhandenem Material. Das können öffentliche Auftritte sein oder auch Bilder und Töne in sozialen Netzwerken. Dieses Verfahren heißt "deep learning". Das Material lässt sich auch für bewusste Täuschung ("fake") bis hin zu sexualisierten Darstellungen nutzen. Das kann zu Straftaten führen, die über Computer, Smartphones oder das Internet begangen werden (Cyberkriminalität). 

Gibt es Strafen für Deepfakes? 

Nach der in Deutschland ausgelösten Diskussion um ein Verbot von sexualisierten Deepfakes haben Justizministerin Anna Sporrer und Frauenministerin Eva-Maria Holzleitner (beide SPÖ) auch hierzulande Maßnahmen im Kampf gegen digitale Gewalt angekündigt. "Wir werden nicht zulassen, dass künstliche Intelligenz zur Waffe gegen Frauen wird", hieß es Ende März in einer Aussendung von Sporrer. Die Ministerinnen standen dazu Woche im Austausch mit Vertreterinnen einer aktuellen Initiative.

Bestehende Möglichkeiten für Betroffene

Akut Betroffene können bereits jetzt gegen Deepfakes vorgehen. Einerseits sollen sofort Beweise gesichert werden, etwa über die Anfertigung von Screenshots, und Anzeige bei der Polizei erstattet werden. Die Ministerien informierten über folgende Möglichkeiten, sich zu wehren.

Zivilrechtlich können Betroffene Unterlassung und Löschung gemäß dem Urheberrechtsgesetz (§ 78 UrhG) fordern sowie Schadenersatzansprüche geltend machen. Da Bilder rechtlich wie Worte gewertet werden, können auch Ansprüche wegen Beleidigung oder Kreditschädigung (§ 1330 ABGB) entstehen.

Strafrechtlich können Deepfakes bereits unter Tatbestände wie Cybermobbing (§ 107c StGB), sexuelle Belästigung und öffentliche geschlechtliche Handlungen (§ 218 Abs 1b StGB) oder Begleitdelikte wie Erpressung und gefährliche Drohung fallen.

Zudem haben Gewaltopfer im Strafverfahren unter bestimmten Voraussetzungen Anspruch auf kostenlose psychosoziale und juristische Prozessbegleitung (§ 66 Abs 2 StPO).