Die Macht der Algorithmen

Algorithmen bestimmen immer mehr unser Leben. Sie wählen aus, welche Einträge wir auf Facebook sehen und entscheiden, ob wir einen Kredit bekommen. Die Initiative "Algorithm Watch" beobachtet diese Prozesse und will für eine gesellschaftliche Debatte sorgen. Der KURIER bat Katharina Zweig, die am Informatikinstitut der TU Kaiserslautern lehrt und eine der Gründerinnen der Initiative ist, zum Gespräch.

KURIER: Algorithmen sind nicht frei von Diskriminierung. Warum haben sie trotzdem einen guten Ruf, nämlich den der "allumfassenden Weisheit"?

Katharina Zweig: Das ist wie beim Gefühl mit dem Kopfrechnen und dem Taschenrechner. Mit der Maschine war plötzlich alles richtig. Wir haben das Erlebnis, dass ein Computer etwas fehlerfrei macht, tief in uns abgespeichert. Doch das Verrechnen kann auch Computern passieren. Das können wir als Nutzer aber ganz selten nachvollziehen.

Wieso sollten wir Algorithmen bei Entscheidungen vertrauen?

Ein normaler Arzt sieht seltene Krankheiten zwei bis drei Mal in seinem Leben. Da kann er nicht viel davon lernen. Aber ein Algorithmus kann von beliebig vielen Ärzten lernen, Muster sammeln und so rauskriegen, wie jemand behandelt gehört.

Aber es ist nicht jedes Beispiel so positiv. Was passiert, wenn ein Algorithmus über die Kreditwürdigkeit eines Einzelnen entscheidet und falsch liegt?

Wenn Algorithmen gut gemacht sind, ist nachvollziehbar, warum ein Algorithmus so entschieden hat. Der Mensch kann dann immer noch eingreifen.

Das ist eher die Ausnahme.

Richtig. In den USA gibt es Rückfälligkeitsvorhersagen für Kriminelle. Dabei entscheidet ein Algorithmus, ob jemand freigelassen wird oder nicht. Derselbe Algorithmus könnte dazu verwendet werden, um rauszufinden, ob man jemandem einen Wiedereingliederungsberater zur Verfügung stellen sollte oder ob das nicht notwendig ist. Um Algorithmen zu verbessern, müsste man auch mal das Gegenteil tun, von dem, was sie vorschlagen.

Kann man das im Falle von kriminellen Straftätern?

Bei sozialen Netzwerken ist das kein Problem. Da wird dauernd an den Algorithmen herumgeschraubt. Das nennt man "AB Testing". Gruppe A bekommt das angezeigt und Gruppe B das Gegenteil und dann schaut man, was besser funktioniert. Bei gesellschaftlich relevanten Dingen kann man das nicht machen. Daher ist es äußerst bedenklich, wenn Algorithmen über die Freiheit von Menschen entscheiden.

Die Algorithmen von Facebook oder Google zählen zu den mächtigsten der Welt. Sollten die offen gelegt werden?

Ich bin darüber sehr froh, dass Facebook und Google ihre Algorithmen nicht offenlegen. Als Google den Page Rank – also den grundlegenden Algorithmus, wie Webseiten in der Suche sortiert werden – veröffentlicht hat, haben das viele ausgenutzt und angefangen, zu manipulieren. Google hat hier bereits eine große Transparenz.

Wütende Postings werden bei Facebook häufiger angezeigt als solche, die sachlich bleiben. Ist das nicht problematisch?

Man darf nicht vergessen, dass die Algorithmen für das gesamte Geschehen in dem Netzwerk verantwortlich sind. Die meisten Nachrichten, die dort geteilt werden, sind harmlos. Aber es gibt soziale Kontexte, bei denen sich Facebook noch überlegen muss, wie es damit zukünftig umgeht.

Haben soziale Netzwerke direkten Einfluss auf die Demokratie?

Ich mache mir keine Sorge um jemanden, der eine Suchmaschine benutzt, um sich politisch zu bilden. Wir informieren uns auch via TV, Zeitungen, Internet und über soziale Netzwerke. Wir als Forscher konnten noch nicht herausfinden, wie groß der Effekt der Filterblase wirklich ist. Dazu gibt es bisher nur eine einzige Studie, die von Facebook co-finanziert wurde. Das halte ich für gesellschaftlich bedenklich.

Sie wollen also doch Einblick in die Algorithmen bekommen?

Ich vertraue am meisten unabhängigen Expertengremien, die bei Bedarf hineinschauen und Experimente machen können. Diese Experten müssen über einen hohen Ethikstandard verfügen. Firmengeheimnisse zu Algorithmen gehören geschützt, sonst wächst die Gefahr der Manipulationsversuche.

Social Media: So reagiert man richtig auf Hass und Desinformation

Ein Algorithmus ist nichts anderes als eine Betriebsanleitung – das kann im simplen Fall ein Kochrezept sein. Weitaus komplexer sind die Formeln, die Google und Facebook verwenden. Diese Algorithmen „wissen“, wie sich Menschen verhalten werden, was sie interessiert und wie sie denken. Sie sorgen dafür, dass Facebook uns Freunde oder Nachrichten vorschlägt.

Google soll sogar mittels Algorithmen herausfinden, wie geeignet ein Mitarbeiter für einen Job ist. Die Formeln bestimmen mittlerweile fast unser ganzes Leben: Sie sind in Navis integriert, entscheiden, ob wir einen Kredit erhalten, oder wissen schon vor der Betroffenen, ob eine Frau schwanger ist.