Heikler Einsatz von KI: Tücken im Asylsystem aufgedeckt

Künstliche Intelligenz (KI) kommt bei immer mehr automatisierten Verfahren zum Einsatz. Das kann aber im heiklen Bereichen zu massiven Problemen führen, wenn es etwa um die Einhaltung von Grundrechten geht.  

Darauf weisen zwei Wissenschafterinnen der Uni Graz hin.

So seien Migrantinnen und Migranten im Asylverfahren zunehmend mit KI konfrontiert, etwa bei der Feststellung ihres Herkunftslandes oder Risikobewertungen, schildern Politikwissenschafterin Laura Jung und Juristin Angelika Adensamer.

Doch die Systeme seien fehlerhaft und oftmals intransparent, warnen die Expertinnen.

Im Zuge ihres Forschungsprojektes "A.I.SYL" fanden Jung und Adensamer heraus, dass in Österreich bereits KI wie "DeepL" und "Complexity" verwendet wird, aber auch eigens entwickelte Systeme.

Was die KI macht

"Dabei geht es um die Zusammenfassung von Informationen zu Staaten, um in Asylverfahren Verfolgungsrisiken, die Glaubwürdigkeit der Angaben und die Bewertung sicherer Herkunftsländer festzustellen", beschreibt Angelika Adensamer. 

Allerdings könne die KI irreführende Ergebnisse erzeugen: Speziell "Large-Large-Modelle", die komplexe Fragen verarbeiten, können "in Form sogenannter Halluzinationen falsche Angaben liefern", warnt Laura Jung.

Die Gefahr bestehe darin, dass diese neuen Analysewerkzeuge Wissen und Objektivität vortäuschen:  "Wenn komplexe Verfahren inkorrekt durchgeführt werden, zahlen wir durch die Gefährdung von Grundrechten und Rechtsstaat einen hohen Preis", gibt Jung zu bedenken.

"Versuchskaninchen"

Zudem bestehe auch die Gefahr der Diskriminierung, wenn etwa Datenschutz oder Grundrechte wie die Privatsphäre verletzt werden. Politologin Jung warnt davor, Asylwerberinnen und Asylwerber "zu Versuchskaninchen" zu machen: "An ihnen werden Tools getestet, die Staatsbürgerinnen und Staatsbürger so nicht akzeptieren würden."

Auf den Einsatz der KI in den Verfahren müssen sich nicht nur die Betroffenen einstellen, sondern auch Beratungsstellen.  Zur Unterstützung haben Jung und Adensamer eine Orientierungshilfe erarbeitet, die auf der Homepage von "A.I.SYL" abrufbar ist.

Am Montag, 12. Mai, wird das Forschungsprojekt bei einer Veranstaltung vorgestellt (Forum Stadtpark, Graz, beginn 18 Uhr).