EU beschließt weltweit erstes Gesetz für Künstliche Intelligenz

Mit dem Gesetz über Künstliche Intelligenz (AI Act) will die EU den Einsatz der Technologie sicherer und transparenter gestalten. Am Dienstag haben die EU-Staaten dem Regelwerk endgültig zugestimmt. 

Das  Gesetz soll die Technologie weitreichend regulieren und gilt als das erste seiner Art weltweit. Es könnte auch Vorbild für andere Länder werden. Der AI Act umfasst eine breite Palette von Anwendungen Künstlicher Intelligenz: Von der Gesichtserkennung über Bewertungssysteme bis hin zu Grundlagenmodellen, die bei Chatbots wie ChatGPT oder Googles Gemini zum Einsatz kommen.

Risikokategorien 

KI-Anwendungen werden in dem AI Act unterschiedlichen Risikokategorien zugeordnet. Sie reichen von "inakzeptabel" über "hoch" und "begrenzt" bis zu "minmalem oder keinem Risiko" und unterliegen entsprechenden Sicherheits- und Transparenzanforderungen. 

Einige Anwendungen werden komplett verboten. Etwa  Systeme, die auf Grundlage von Sozialverhalten oder persönlichen Merkmalen Bewertungen vornehmen, die zu einer Schlechterstellung führen (Social Scoring) können oder die Massenüberwachung anhand biometerischer Merkmale. Letztere ist nur in Ausnahmefällen in der Strafverfolgung erlaubt. 

Auflagen für hochriskante Anwendungen

Anbieter von Anwendungen, die als hochriskant eingestuft werden, müssen eine Reihe Auflagen erfüllen. Darunter fallen beispielsweise KI-Systeme in Aufzügen oder Seilbahnen ebenso wie Kreditwürdigkeitsprüfungen mit Künstlicher Intelligenz oder KI, die in der Bildung oder im Personalmanagement eingesetzt wird. Für sie müssen Risikobewertungen und/oder Folgenabschätzungen für die Grundrechte vorgelegt werden.

Transparenzpflichten für ChatGPT & Co. 

Anbieter von allgemein einsetzbarer Künstliche Intelligenz, unter die Systeme wie ChatGPT fallen, müssen Transparenzpflichten erfüllen und etwa Informationen zu ihren Funktionen und Grenzen, aber auch Trainingsinhalten bereitstellen. Sie müssen auch sicherstellen, dass nicht gegen Urheberrechte verstoßen wird. KI-generierte Texte, Bilder oder Videos müssen gekennzeichnet und Nutzerinnen und Nutzer über die Interaktion mit einer KI aufgeklärt werden. 

KI-Systeme, die in Videospielen oder Spam-Filter zum Einsatz kommen, unterliegen hingegen keinerlei Pflichten nach dem Gesetz. 

Strafen bis zu 35 Mio. Euro

Bei Verstößen gegen das Gesetz werden je nach Kategorie und Anwendung Strafen zwischen 7,5 Mio. und 35 Mio. Euro oder zwischen einem und 7 Prozent des Jahresumsatzes fällig.  

Stufenweise Gültigkeit

In Kraft treten wird das Gesetz 20 Tage nach der Veröffentlichung im Amtsblatt der Europäischen Union, also im Juni. Die einzelnen Verpflichtungen sollen dann stufenweise Gültigkeit erlangen. 

Die Regelung für verbotene KI-Praktiken wird 6 Monate nach dem Inkrafttreten des AI Acts, also bereits im Dezember, schlagend. Ab dem kommenden Juni gelten dann auch Transparenzregeln für den Einsatz von ChatGPT & Co. Die Regeln für Hochrisiko-KI-Syteme folgen 2026 und 2027.