© Mike Thornton

Interview
04/13/2020

"Überwachung, die man wohl normal nicht akzeptieren würde"

Algorithmen könnten bahnbrechend gegen die Pandemie wirken, sagt Charlotte Stix, junge Expertin für Künstliche Intelligenz. Doch die rettende Technik müsse immer auch von der ethischen Seite gesehen werden.

von Ingrid Steiner-Gashi

Am 30. Dezember des Vorjahres schlug das Startup BlueDot in Toronto Alarm: Das auf Künstliche Intelligenz (KI) basierende, maschinell lernende System ermittelte eine Häufung von „ungewöhnlichen Lungenentzündungs-Fällen“ rund um einen Markt im chinesischen Wuhan. Erstmals war das neue Coronavirus international aufgetaucht – neun Tage, bevor die Weltgesundheitsorganisation ihre erste Warnung herausgab. Schneller, und in manchen Bereichen sogar besser als Menschen, können KI-Systeme arbeiten.

Im Kampf gegen die Pandemie ist Künstliche Intelligenz ein Verbündeter – doch welche Gefahren birgt ihr massiver Einsatz? Und ist vom personen-bezogenen Tracking per Handy bis hin zu per KI entwickelten neuen Medikamenten alles erlaubt, was dem Kampf gegen das Virus dient? 

„Technologie an sich kann man als neutral ansehen“, sagt Charlotte Stix, „den Einsatz und Verwendungszweck aber nicht unbedingt. Die Frage ist auch, wie und wofür gesammelte Daten genutzt werden und unter welchen Rahmenbedingungen die Systeme aufgebaut wurden“.

Die brillante junge Expertin für Künstliche Intelligenz stammt aus Wien und legte bereits eine sensationelle Karrriere hin. Als Forscherin an der TU Eindhoven koordiniert Stix die aus 52 Mitgliedern bestehende, hochrangige Expertengruppe zur Künstliche Intelligenz in der EU-Kommission. Derzeit arbeitet sie von ihrem Home-Office in Brüssel aus.

Ihr Talent fällt international immer stärker auf: Vor kurzem wurde Charlotte Stix in der diesjährigen Forbes "30 unter 30 Liste" in Europa im Bereich Technologie (als einzige Österreicherin) ausgezeichnet: Sie führt einen frei zugänglichen Newsletter zu KI in Europa, den European AI Newsletter.

KURIER: In welchen konkreten Anwendungsbereichen kann Künstliche Intelligenz im Kampf gegen das Virus helfen?

Charlotte Stix: Man muss eine Balance finden, zwischen dem, was aus medizinischer Perspektive notwendig und dem, was ethisch vertretbar ist. Zum Beispiel könnte es sein, dass Geolokalisierung von Handydaten zum Ermitteln von Knotenpunkten, wo sich mehrere Leute versammeln, oder Bewegungsprofile von Infizierten hilfreich sind. Solche Analysen könnten aber auch ethisch fragwürdige Präzedenzfälle setzen, wo man sowohl eine Form von Überwachung hinzuzieht als auch eine Benutzung von Datensätzen, die man im Normalfall wahrscheinlich nicht so akzeptieren würde. Den Datenschutz darf man hier nicht außer Auge lassen.

Was ist von in China bereits verwendeten KI-Anwendungen zu halten, wo aus der Distanz die Temperatur hunderter Menschen etwa auf einem Bahnhof gleichzeitig ermittelt werden kann?

Obwohl ich kein Arzt bin, würde ich annehmen, dass eine erhöhte Körpertemperatur alleine nicht unbedingt aussagt, ob ein Mensch COVID-19 hat. Sie ist ein Aspekt von einem Krankheitsbild und damit nicht allein aussagekräftig, vor allem wo es viele asymptomatische Fälle zu geben scheint.

Es gibt inzwischen auch Anwendungen, bei denen die Stimmen analysiert wird. Dies soll durch die Tonqualität der Stimme dabei helfen herauszufinden, ob Menschen vom Virus infiziert sind oder nicht.

Eine ähnliche Art der Anwendung von KI gibt es auch schon bei Stimmanalysen zu psychischen Krankheiten. Obwohl dies relativen Erfolg zeigte, ist es natürlich nicht offensichtlich, dass diese Form der Anwendung gegen die Ausbreitung des Virus wirkungsvoll wäre. Und natürlich wirft sie sowohl praktische als auch ethische Fragen auf.

KI-Anwendungen sind angeblich schon in der Lage, das Virus binnen 20 Sekunden zu erkennen?

KI-basierte Analysen von computertomografischen Aufnahmen von Lungen scheinen bereits eingesetzt zu werden. Binnen kurzer Zeit kann so an den CTs erkannt werden, ob das Virus die Lungen schon angegriffen hat. Wie sonst auch sollte ein KI-System die Ärzte unterstützen und nicht ersetzen.

Bei der Diagnostizierung von Tumoren sind diese CT-Analysen, unterstützt von einem KI-System, schon länger als relativ erfolgreich angesehen. Es gibt Studien, die besagen, dass so ein System zielgenauere Diagnosen erstellen kann als Ärzte.

Dennoch sollte es medizinisches Personal nicht ersetzen. KI-Systeme machen auch Fehler. Und die meisten KI-Systeme sind nur so gut wie die Daten, mit denen es trainiert wurde - was in der Vergangenheit auch schon zu diskriminierenden Ergebnissen geführt hat.

Kann Künstliche Intelligenz dabei helfen, neue Medikamente gegen das Coronavirus zu entdecken?

Im Fall von COVID-19 versuchen KI-Anwendungen zum Beispiel die Proteinstrukturen des Virus zu verbildlichen. Seit einiger Zeit gibt es auch schon KI-Systeme, deren Anwendungsbereich in der Findung von neuen Wirkstoffen liegt, weil KI Forscher mit extrem schneller Datenverarbeitung von einer sehr großen Anzahl an Daten unterstützen kann. Potenziell können dadurch neue Medikamente oder Wirkungsbereiche, auch in Bezug zu COVID-19 gefunden, werden.

Wird KI eines Tages den Menschen abhängen?

Künstliche Intelligenz kann sehr viele sehr spezifische Dinge schon viel besser als die Menschen -  ganz banal, unser Email Spamfilter. Das wird von wenigen Leuten als problematisch angesehen. Vieles davon möchten wir auch gar nicht selber besser machen und können dadurch unsere Zeit kreativer und besser benutzen.

So wird zum Beispiel KI immer öfter eingesetzt, um fake news zu löschen. Facebook und Google nutzen es: Man kann Systeme darauf trainieren, bestimmte Inhalte zu identifizieren, flaggen und zu löschen. Dadurch sind Menschen, so genannte Content Moderators, nicht mehr gezwungen, sich den ganzen Tag fragwürdige Texte und üble Videos anzuschauen und zu löschen. Das ist natürlich auch eine nützliche Anwendung um der vielen fake news im Netz rund um die Pandemie Herr zu werden

Aber wird uns KI irgendwann auf allen domain-spezifischen Ebenen gleich, oder besser, gestellt sein?

Das ist eine Frage, über die sich Experten uneinig sind, sowie eine Frage, ob wir es als Gesellschaft so weit kommen lassen. Für die kommenden Jahre halte ich das auf jeden Fall für sehr unwahrscheinlich.