Deepfakes: Müssen wir es uns gefallen lassen, gefälscht zu werden?

Von Mag. Carmen Thornton & Mag. Johannes Kautz

Der Fall: Die Berichterstattung über den Fall von Collien Fernandes hat eine breite öffentliche Diskussion über digitale Gewalt ausgelöst. Die Schilderungen der deutschen Schauspielerin sind besonders verstörend, doch leider kein Einzelfall. Bereits 2020 wurde die italienische Premierministerin Giorgia Meloni Opfer von sexualisierten Deepfakes. Und Anfang des Jahres landeten Millionen von sexualisierten Bildern, teilweise von Minderjährigen, die mithilfe des KI-Chatbots Grok erzeugt wurden, im Internet. Die EU-Kommission leitete daraufhin eine Untersuchung gegen X ein. Vor wenigen Tagen wurde der Grok-Entwickler von einem Gericht in Amsterdam zur Unterlassung verurteilt. Und fast zeitgleich einigte sich das EU-Parlament auf ein Verbot von sexualisierten Deepfakes. Hat der Rechtsstaat eine Chance? Können wir verhindern, im Netz missbraucht und gefälscht zu werden? Oder sind wir der KI in Zukunft schutzlos ausgeliefert?

Sie: 

KI verändert unsere Gesellschaft. Der Gesetzgeber kann bei den technischen Entwicklungen nicht immer Schritt halten. Und es gibt Verhaltensweisen, die so verstörend oder abartig sind, dass das Gesetz ohnehin keine passende Antwort hat. Manchmal kommt auch beides zusammen, etwa wenn Männer gezielt Deepfake-Pornos ihrer Frau oder Freundin im Internet verbreiten. Die konsequente strafrechtliche Verfolgung, im Idealfall durch eigene Staatsanwaltschaften, ist dringend notwendig, hilft den Opfern aber nur bedingt. Zivilrechtlich sind zwar Unterlassungsklagen und einstweilige Verfügungen möglich, doch die Löschung von Inhalten, die bereits in diversen Chatgruppen kursieren, ist so aussichtslos wie der Versuch, Wasser in eine umgedrehte Flasche zurückzudrücken. Und Schadenersatz? Wer reale Vermögensnachteile nachweisen kann, zum Beispiel aufgrund eines Jobverlusts, kann diese geltend machen. 

Bei schwerwiegenden Persönlichkeitsverletzungen steht auch immaterieller Schadenersatz zu. Doch die zugesprochenen Beträge sind lächerlich niedrig. Einen adäquaten Ersatz für die psychischen Auswirkungen von digitalem Missbrauch gibt es nicht. Wer glaubt, dass dies ein Problem des digitalen Zeitalters ist, täuscht sich. Das grundlegende Problem ist nicht neu. Es geht um Besitzdenken, das Schaffen von Abhängigkeiten und um die Ausübung von Macht. Die Gewalt äußert sich dabei nicht nur in körperlichen Übergriffen. Die Erscheinungsformen sind vielfältig und gerade in einer Ehe oder in Beziehungen sind die Grenzen oft fließend.

Verschiedene Gewaltformen

Im Ehegesetz werden neben dem Ehebruch zwei Eheverfehlungen besonders hervorgehoben, die körperliche Gewalt und die Zufügung von schwerem seelischen Leid. Körperliche Gewalt ist leicht fassbar, auch wenn der Nachweis oft schwierig ist. Das Gesetz sieht bei Tätlichkeiten keine Erheblichkeitsschwelle vor. Körperliche Übergriffe werden nicht toleriert, unabhängig von der Schwere der Gewaltanwendung oder gar vom Ausmaß der Verletzungen. Sie sind keine entschuldbare Reaktionshandlung und können auch nicht als milieubedingte Entgleisung gerechtfertigt werden. 

Bei der seelischen Gewalt wird es schon schwieriger. Das Gesetz verlangt eine gewisse Intensität der psychischen Beeinträchtigung, etwa durch wiederholte Beschimpfungen, Psychoterror oder lang andauernde, gezielte Ausübung von psychischem Druck. Da geht es nicht um einen Vorfall, der mit blauen Flecken oder schlimmeren Verletzungen endet, sondern um eine permanente Abwertung des Ehepartners. Das sind die ständigen abfälligen Kommentare, die oft unsichtbaren Demütigungen. Viele Nadelstiche, die das Selbstwertgefühl beeinträchtigen und seelische Narben hinterlassen.

Ökonomische Gewalt als Eheverfehlung

Und dann gibt es noch die ökonomische Gewalt, bei der gezielt eine wirtschaftliche Abhängigkeit geschaffen wird, indem der Zugang zu Bankkonten und die Verfügung über das gemeinsame Einkommen verhindert wird. Zugleich wird die Berufstätigkeit der Frau behindert oder verboten, sodass Frauen selbst bei notwendigen Ausgaben stets in die Rolle des Bittstellers gedrängt werden. 

Auch so ein Verhalten ist eine Eheverfehlung. Digitaler Missbrauch ist eine neue Form von Gewalt. Und das Problem von Gewalt ist, dass sie oft nicht als solche wahrgenommen wird. Umso wichtiger ist es, dass Gewaltformen klar benannt werden und auch die Justiz im Umgang damit geschult wird. Denn manchmal hilft es den Betroffenen schon, einfach nur Ernst genommen zu werden.

Er:

Ein Deepfake ist „ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.“ So steht es in der seit 1.8.2024 geltenden KI-Verordnung (AI-Act). Sogar im Juristendeutsch wird klar, worum es eigentlich geht: um Fälschungen. 

Gefälscht werden dabei nicht nur Urkunden oder Geldscheine, sondern auch die Realität, Nachrichten, Meinungen und Ereignisse. Und vor allem Menschen, ihr Aussehen, ihre Stimme und ihr Verhalten, ihre gesamte Persönlichkeit. Wie verhindert man das? Die KI-Verordnung sieht eine Offenlegungspflicht für künstlich erzeugte oder manipulierte Inhalte vor. Das ist so, als würde man auf gefälschten Banknoten einen Hinweis vorschreiben, dass die Scheine nicht echt sind. Wenig überraschend funktioniert dieser Ansatz nicht. Deepfakes fluten weiterhin das Internet. Doch obwohl kein vernünftiger Mensch Falschgeld als Zahlungsmittel akzeptieren würde, sind erstaunlich viele Menschen dazu bereit, sich höchst freiwillig von gefälschten Inhalten auf Social Media beeinflussen zu lassen. Und die Betroffenen stoßen bei der Bekämpfung von Missbrauch auf einen Fleckerlteppich aus zivil- und strafrechtlichen Tatbeständen.

Generelles Verbot für Deepfake-Apps?

Nun will die EU sogenannte „Nudifier“-Apps verbieten. Das ist längst überfällig und packt das Problem bei der Wurzel, denn drastische Geldstrafen wie jene 1,2 Milliarden Euro, die 2023 wegen Datenschutzverstößen gegen Meta verhängt wurden, schrecken selbst Tech-Konzerne ab. Trotzdem fragt man sich: Warum eigentlich nur sexualisierte Deepfakes? Fake-Pornos und digitaler Missbrauch von Frauen sind die verstörende Spitze des Eisbergs, doch das Missbrauchspotenzial reicht von Betrugsmaschen mit KI-generierten Videokonferenzen bis hin zur Beeinflussung der öffentlichen Meinung durch gefälschte Videos und die Verbreitung von Fake News durch täuschend echte Fotos, Videos und Nachrichten. 

Und wozu brauchen wir KI-generierten Müll, der über Plattformen, die sich euphemistisch als „soziale“ Medien bezeichnen, in der ganzen Welt verbreitet wird? In Wahrheit sind Deepfake-Apps dafür konzipiert, illegale oder gesellschaftlich unerwünschte, im besten Fall entbehrliche, Inhalte zu erzeugen. Sie sind moderne Waffen, zu denen jeder Zugang hat und mit denen per Mausklick Frauen missbraucht, Existenzen zerstört und Demokratien gefährdet werden können.

Verbandsklage ermöglichen

Und wozu brauchen wir KI-generierten Müll, der über Plattformen, die sich euphemistisch als „soziale“ Medien bezeichnen, in der ganzen Welt verbreitet wird? In Wahrheit sind Deepfake-Apps dafür konzipiert, illegale oder gesellschaftlich unerwünschte, im besten Fall entbehrliche, Inhalte zu erzeugen. Sie sind moderne Waffen, zu denen jeder Zugang hat und mit denen per Mausklick Frauen missbraucht, Existenzen zerstört und Demokratien gefährdet werden können.

Auch die Gesellschaft muss vor Fälschungen geschützt werden. Außerdem müssen die Plattformen, die solche Tools zur Verfügung stellen und zur Verbreitung beitragen, in die Pflicht genommen werden. Das lässt sich zwar nur auf EU-Ebene effektiv durchsetzen, doch auch der nationale Gesetzgeber kann aktiv werden. Im Wettbewerbs- und Verbraucherrecht können klagebefugte Verbände gegen Rechtsverstöße vorgehen. Bei Persönlichkeitsverletzungen im Internet müssen Betroffene ihre Rechte selbst durchsetzen und Grundsatzentscheidungen zu Auskunfts- oder Löschungsansprüchen gegenüber Plattformen erwirken. Eine Verbandsklage würde die Rechtsdurchsetzung erleichtern.