Misshandlung per Mausklick: Wie Europa sich gegen Elon Musks Sex-KI wehrt

Es traf Schwedens Vize-Premierministerin, eine Abgeordnete der US-Demokraten und sogar Elon Musks Ex-Frau: Drei prominente Beispiele für rund 3 Millionen virtuell misshandelte Frauen, darunter 23.000 Minderjährige. Der Schaden, den Grok, die Künstliche Intelligenz im Dienste von Elon Musks Social-Media-Plattform „X“ angerichtet hat, lässt sich in Zahlen alleine nicht festmachen.

Einsatzgebiet Sex

Kontrolliert hatte Grok jedenfalls über Monate niemand - und das nützten Millionen von Anwendern vor allem für eines: Um Frauen und Mädchen virtuell auszuziehen und sie zusätzlich in sexuell eindeutigen Posen darzustellen. Mehr als drei Viertel aller Anwendung des Chatbots waren genau dafür – und je brutaler die virtuelle Misshandlung war, desto heftiger wurden die Bilder geteilt.

Werkzeugkoffer mit Digitalgesetzen

Das Massenphänomen geriet im Vorjahr so rasant außer Kontrolle, dass die EU-Kommission aktiv wurde. Seit 2023 besitzt Brüssel einen Werkzeugkoffer an Digitalgesetzen, die man über Jahre eigens dafür entwickelt hat, um die US-Digitalgiganten von Google bis „X“ unter Kontrolle zu bekommen. Da gibt es das Gesetz über digitale Dienste und das KI-Gesetz, beide sollen vor allem verhindern, dass Menschen im virtuellen Raum Schaden zugefügt wird, also ihre Grundrechte, etwa das Recht auf Privatsphäre verletzt werden. 

Wie das tatsächlich geschehen würde, etwa im Fall von Grok, habe man natürlich nicht absehen können, erklären Experten in der EU-Kommission: Bei dem Tempo, in dem sich Soziale Medien, aber auch die Künstliche Intelligenz entwickeln, würden allzu detaillierte Regelungen sehr rasch überholt. „Man riskiert bei der rasanten Entwicklung ein ständiges Hinterherlaufen“, erläutert die Expertin für KI-Rechtsfragen, Christiane Wendehorst, das Problem.

Risiko verringern

Man blieb also allgemein. etablierte aber ein Prinzip,das für alle großen Akteure im digitalen Raum gilt, egal, ob sie Waren um die Welt schicken, lustige Kurzfilme, oder Bilder von unfreiwillig entkleideten Frauen.

Diese müssen die Risiken, die ihre Produkte mit sich bringen, erfassen und alles tun, um diese Risiken zu verringern. Wenn also eines ihrer Produkte gegen ein Gesetz verstößt, sind sie verantwortlich – und das mit heftigen Konsequenzen: Bis zu sechs Prozent des Jahresumsatzes muss eine digitale Plattform wie „X“ bezahlen, wenn sie nach den EU-Digitalgesetzen verurteilt wird. Es geht also um viele Milliarden.

Im Fall von Grok wurde Brüssel zuerst hinter den Kulissen aktiv. Man drohte sogar mit der vorübergehenden Sperre des Chatbots. „X“ aber schraubte das Sexbilder-Business nur sehr zögerlich zurück. Aufnahmen von Minderjährigen verschwanden sofort: Man wusste, dass man da vor keinem Gericht Gnade finden würde. Bei Bildern erwachsener Frauen dagegen ging das Feilschen der Anwälte los: Deren manipulierte Bilder zu verbreiten, das sei doch in mehreren EU-Ländern gar nicht verboten.

Inzwischen aber ist „X“ zurückgerudert, hat die einschlägigen Funktionen von Grok gestoppt. Die EU-Kommission dagegen ließ sich nicht stoppen, vor wenigen Tagen hat man das Verfahren gegen „X“ eröffnet. Für Anna Stürgkh, EU-Abgeordnete der NEOS ein erster wichtiger Schritt, „aber wir müssen als EU beim Umgang mit diesen Herausforderungen grundsätzlich schneller und härter werden. Da geht es schließlich um Bürgerrechte.“

Klare politische Forderungen, die man auch durchsetzen könne, glauben die Experten in der EU-Kommission, wenn auch oft langsam und in kleinen Schritten.

Man sei mit den Digitalgesetzen gut gerüstet für die Auseinandersetzungen mit den US-Giganten, „auch wenn keine Maßnahme alleine eine Wunderwaffe ist“. Regeln für den digitalen Raum zu schaffen und diese durchzusetzen, egal, was als nächstes perverses Spielzeug für Millionen auftaucht: „Das bleibt ein Wettlauf, aber der Vorsprung der Gegenspieler ist nicht mehr so groß wie früher.“