In Spanien häufen sich Fälle von KI-generierten Nacktfotos Minderjähriger
Nach den Sommerferien freute sich Isabel (14) wieder auf das neue Schuljahr. Als sie vergangene Woche ihre Schule in Almendralejo, einer Stadt in Südspanien, betrat, kursierten bereits die Gerüchte: Mitschülerinnen und Mitschüler sollen Fotos von nackten Schülerinnen auf ihren Handys haben. In der Pause sprach ein Junge Isabel auf dem Schulhof an:
"Ich habe ein Nacktfoto von dir gesehen."
Isabel, die eigentlich anders heißt, berichtete davon aufgelöst ihrer Mutter. Diese tauschte sich mit anderen Müttern aus - und immer weitere Fälle kamen ans Licht. Heute, rund eine Woche später, weiß man: Mindestens 20 Mädchen aus Almendralejo haben Nacktfotos von sich auf ihr Smartphone geschickt bekommen. Keine von ihnen hatte die Bilder aufgenommen. Das jüngste Opfer ist 11 Jahre alt.
➤ Mehr lesen: Immer mehr Fälle von Erpressung mit Nacktbildern bei Jugendlichen
Fotos wurden mit KI-App erstellt
Die Fotos waren von den Instagram- und Whatsapp-Konten der Mädchen gestohlen, mithilfe einer App verändert und über Whatsapp-Gruppen zwischen Schülerinnen und Schülern verbreitet worden. Später erstellte jemand ein Video mit gefälschten Nacktbildern von 7 von ihnen. Im Raum steht zudem, dass die Fotos auf Internetportale wie Onlyfans oder pornografische Websites geladen worden sind. Auf den Originalfotos, die für die Deepfakes herangezogen werden, sind die Mädchen vollständig bekleidet.
"Die Montagen sind super realistisch, es ist sehr verstörend und ein echter Skandal", sagte eine Mutter von einem Mädchen, auf ihrem Instagram-Account. Gegenüber einem lokalen Fernsehsender sagte die Mutter einer weiteren Betroffenen, dass ihr Tochter erpresst worden sei. Ein Junge habe Geld gefordert und ihr - als sich das Mädchen weigerte - ein Nacktfoto von ihr geschickt.
Die Polizei ermittelt
Der Bürgermeister von Almendralejo bezeichnete den Vorfall als einen "weiteren Fall von geschlechtsspezifischer Gewalt". Die Mütter der betroffenen Mädchen wollen gegen die Täter vorgehen. Die Polizei ermittelt. Mehrere möglicherweise beteiligte Minderjährige sollen bereits als Ersteller und Verbreiter der Bilder identifiziert worden sein. Einige von ihnen sollen Klassenkameraden der Mädchen sein.
Auch die spanische Datenschutzbehörde hat von Amts wegen eine Untersuchung eingeleitet. Inwieweit die Deepfakes rechtlich geahndet werden können, ist jedoch nicht endgültig geklärt. "Die eine Frage ist, ob es bestraft werden sollte, und die andere, ob es durch die Art und Weise, wie das Gesetz in Spanien und in anderen EU-Ländern formuliert ist, bestraft werden kann", sagte Manuel Cancio, Professor für Strafrecht an der Autonomen Universität von Madrid, gegenüber Euronews.
➤ Nacktfotos: Wie Kinder zu Straftätern werden
"Da es durch Deepfake erzeugt wird, ist die eigentliche Privatsphäre der betreffenden Person nicht betroffen. Die Wirkung, die es (auf das Opfer) hat, kann einem echten Nacktbild sehr ähnlich sein, aber das Gesetz hinkt hier einen Schritt hinterher", so Cancio. Unklar ist zudem auch, ob die Straftat als Verbreitung von Kinderpornografie angesehen werden kann, wie Euronews berichtete.