Die Definition von KI-Kompetenzen ist im AI Act der EU sehr allgemein gehalten. Die Rede ist von "Fähigkeiten, Kenntnissen und dem Verständnis", KI-Systeme "sachkundig einzusetzen und sich der Chancen und Risiken bewusst zu sein".
Der konkrete Inhalt der der Schulungsmaßnahmen hänge von dem eingesetzen KI-System und der Risikostufe ab, heißt es aus der in der Regulierungsbehörde RTR angesiedelten KI-Servicestelle des Bundes. Zu berücksichtigen sei auch der Kontext, in dem KI eingesetzt werde, sowie die Erfahrung und Ausbildung der Mitarbeiter, so eine Sprecherin der Servicestelle.
Beispiel Chatbot
So müssen etwa Entwickler und Anbieter eines Chatbots sicherstellen, dass die Daten sicher gespeichert werden. Betreiber, also Unternehmen, die ihren Mitarbeitern einen solchen Chatbot zur Verfügung stellen, müssten darauf achten, dass keine personenbezogenen Daten an den Anbieter übermittelt werden, heißt es beispielhaft auf der Website der KI-Servicestelle. Schulungen von Mitarbeitern könnten etwa umfassen, dass derartige Eingaben zu unterlassen seien.
Schulungsmaßnahmen könnten sowohl unternehmensintern als auch extern erfolgen. Da es sich um keinen starren Prozess handle, sei es ratsam, die KI-Kompetenz als Teil der Fort- und Weiterbildung einzubeziehen.
Keine Strafen vorgesehen
Eine behördliche Überprüfung, ob Maßnahmen gesetzt wurden, schreibt der AI Act der EU nicht vor. Auch Strafen oder Sanktionen für Unternehmen, die sich nicht an die Verpflichtung halten, sind nicht vorgesehen. Werde jedoch durch die fehlende KI-Kompetenz Schaden verursacht, könne Art und Umfang der im Unternehmen vorgenommenen KI-Kompetenz-Maßnahmen eine relevante Rolle in etwaigen Haftungsfragen spielen, so eine Sprecherin der KI-Servicestelle.
Über den Stand der KI-Kompetenz bei heimischen Firmen ist wenig bekannt. Immerhin rund ein Dutzend Unternehmen hat sich dazu mit Anfragen an die Servicestelle gewandt. Dort verweist man auch auf die Informationen auf der Website der KI-Servicestelle. Man treffe damit im Markt bisher auf positive Resonanz, heißt es.
Die EU-Regeln für Künstliche Intelligenz wurden im vergangenen August beschlossen. Weil es sich um eine Verordnung handelt, gelten sie einheitlich in allen EU-Ländern, ohne dass sie in einzelstaatliches Recht umgesetzt werden müssen. Halten müssen sich daran sowohl Unternehmen, die solche Systeme entwickeln und anbieten, als auch für jene, die sie einsetzen, also in ihrem Unternehmen betreiben.
Verbot von Systemen mit unannehmbaren Risiken
Auch eine weitere Regelung aus dem AI Act wird am 2. Februar schlagend. Ab dann sind Systeme mit unannehmbaren Risiken verboten. Darunter fällt etwa KI, die auf Grundlage von Sozialverhalten oder persönlichen Merkmalen Bewertungen vornehmen, die zu einer Schlechterstellung führen (Social Scoring) können oder die Massenüberwachung anhand biometrischer Merkmale. Letztere bleibt aber in Ausnahmefällen in der Strafverfolgung erlaubt. Gegenüber dem KURIER heißt es, dass der KI-Servicestelle keine solche KI-Systeme in Österreich bekannt sind.
Kommentare