Feedback-Schleifen als zentrales Element in der Ko-Evolution von Mensch und KI
© CEU
Komplexitätsforschung an der Central European University zeigt die Risiken von Empfehlungs-Algorithmen auf.
„Wir leben in einer Zeit, in der Künstliche Intelligenz allgegenwärtig ist. Sie durchdringt unseren Alltag, beim Autofahren genauso wie bei der Pizza-Bestellung“, sagt János Kertész. Der Physiker ist Professor für „Network and Data Science“ an der Central European University (CEU). In einer Studie mit einem internationalen Team aus Komplexitäts-Forscher*innen hat er zuletzt untersucht, wie sich algorithmische Systeme und menschliches Verhalten zunehmend gegenseitig beeinflussen. Ausgangspunkt dafür waren Empfehlungssysteme, wie sie in sozialen Netzwerken oder beim Online-Shopping zu finden sind. KI-Chatbots funktionieren fundamental ähnlich, erklärt Kertész: „Wenn man eine Frage bei ChatGPT eintippt, ist die Antwort auch nur eine Empfehlung.“
Unvorhersehbare Effekte
Doch so praktisch es ist, wenn uns ein Algorithmus genau passende Schuhe oder ansprechende neue Musik vorschlägt, so unvorhersehbar sind die langfristigen Effekte dieses Prinzips: „Diese KI-Systeme lernen über uns – was wir wollen, was uns gefällt und so weiter. Ihre Empfehlungen beeinflussen dann unsere Entscheidungen. Und das wiederum beeinflusst die KI“, sagt der Netzwerkforscher. Diese Feedback-Schleifen seien zentral bei der Ko-Evolution von Mensch und KI.
Für dieses Phänomen seien neue Erklärungsmodelle nötig, da traditionelle Theorien zur Mensch-Maschinen-Interaktion nicht mehr ausreichen. Das liegt einerseits an der beispiellosen Fähigkeit von KI-Systemen, menschliches Verhalten in großem Maßstab zu beeinflussen und anderseits an der enormen Geschwindigkeit, mit der sich Modelle verbessern.
Negative Folgen
Feedback-Schleifen können Vorurteile und Diskriminierung aufrechterhalten, Ungleichheit vergrößern, sowie zu Radikalisierung führen. Bei KI-Chatbots, mit denen Nutzer*innen individuell interagieren, könnten diese Effekte besonders stark sein, so die Studien-Autor*innen. Denn in den meisten Fällen würden Menschen deren Empfehlungen unhinterfragt annehmen, sagt Kertész. Das gelte auch für potenziell heikle Anwendungsgebiete wie die Medizin. „Wir müssen verstehen, wie diese Wechselwirkungen funktionieren, wie wir sie beeinflussen und auf eine Art und Weise steuern können, die gut für die Menschheit ist“, betont der Netzwerkforscher.
Verteilte KI-Modelle
Wie man die Zukunft der Ko-Evolution von Mensch und KI verantwortungsbewusst lenken könnte, sei noch weitestgehend unklar, sagt Kertész. Die Empfehlungssysteme besser zu verteilen, könnte ein Schritt in die richtige Richtung sein. „Derzeit ist es üblich, dass es eine zentrale KI-Einheit gibt, die das Modell erstellt, Daten miteinander verbindet und daraufhin Empfehlungen macht“, erklärt er. Doch im besten Fall hätten alle Nutzer*innen ihre eigenen Daten und ihr eigenes kleines KI-Modell auf einem persönlichen Gerät: „Schon heute hat fast jeder in unserer Gesellschaft ein Smartphone in der Tasche“, sagt Kertész. Diese vielen KI-Modelle könnte man dann in einem Netzwerk verbinden, um ihre Leistungsfähigkeit zu steigern. „So eine völlig verteilte KI würde die Nutzung deutlich demokratisieren“, meint der Forscher.
Kommentare