Spontan gefragt: Forscher diskutieren Gefahren autonomer KI

Vor einigen Wochen stellte der Österreicher Peter Steinberger den von ihm entwickelten KI-Agenten vor: OpenClaw selbstständig Reisen buchen, E-Mails beantworten oder Termine organisieren. Das Programm wirft Fragen auf.

Doch zunächst will Moderator Markus Hengstschläger von seinen Studiogästen wissen, ob diese KI, etwa in Form von ChatGPT, nutzen würden. „Ich kanalisiere Dinge, die mir in der Welt begegnen, und meine Erfahrungen in Kunst. Da war ich noch nie an einem Punkt, wo ich dachte, ich brauche die Hilfe einer KI“, sagt Anna Marboe. „Außerdem fehlt mir das Vertrauen in diese Systeme, das bringe ich nur einem menschlichen Gegenüber entgegen.“

Zugriff auf Passwörter möglich

Das könne er nachvollziehen, sagt Benjamin Roth: „Ich verwende KI, aber immer mit einer gesunden Skepsis, weil ich auch noch nicht vollständiges Vertrauen entwickelt habe.“ In weiterer Folge klärt der Professor für Digitale Textwissenschaften auf, dass Chatbots, zu denen auch ChatGPT zählt, darauf trainiert sind, Antworten auf Fragen zu liefern, wobei diese aufgrund statistischer Berechnungen erfolgen. „Vollautonome agentische Systeme wie OpenClaw können auf alles auf meinem Computer zugreifen, auf das ich auch zugreife. Dadurch können sie selbstständig eine Online-Bestellung aufgeben oder E-Mails verschicken“, so Roth. Ob sie auch auf Passwörter zugreifen könnten, will Anna Marboe wissen. „Wenn diese irgendwo auf dem Computer abgelegt sind, ist das möglich“, erwidert der Forscher.

Keine hundertprozentige Sicherheit

Diese Vorstellung entsetzt Markus Hengstschläger. „Kann es sein, dass diese Systeme selbstständig Dinge tun, die sie gar nicht machen sollten?“ Diese Frage muss Benjamin Roth bejahen. „KI-Systeme können nicht 100%-ig unterscheiden, was eine Verarbeitungsinformation und was eine Anweisung ist“, so der Forscher. „Wenn ich meinem KI-System sage, er soll alle E-Mails durchschauen und die Termine in meinen Kalender eintragen, und es ist ein Angriffs-E-Mail dabei, die eine Anweisung enthält, kann es dazu führen, dass der Agent auch das macht.“

Digitale Bildung als wichtige Basis

Wie wichtig digitale Bildung wäre, will Markus Hengstschläger wissen. Sie sei die Grundvoraussetzung, antwortet Benjamin Roth. „KI kann uns in vielerlei Hinsicht das Leben erleichtern“, betont er. „Aber es ist wichtig, dass die Menschen auch lernen, ihr eine gewisse Skepsis entgegenzubringen.“

Digitalisierung und Sprache

Im zweiten Wissenschaftstalk „Spontan gefragt“ fand eine ebenso rege Diskussion statt. Im Mittelpunkt stand die Frage, ob eine digitale Sprachverarmung drohe. Sie habe schon das Gefühl, dass die Koloratur, die jeder Sprache eigen ist, auf ein Level herabgebrochen werde, antwortet Angelika Hager. „Durch den Einsatz von KI geht das Individuelle verloren, weil der Wortschatz verkümmert“, sagt die Journalistin. „Irgendwie reden alle gleich.“

Genau das würde sie sich in ihrem aktuellen Forschungsprojekt anschauen, erwidert Julia Neidhart. „Wir untersuchen, wie Digitalisierung die linguistische Diversität beeinflusst, aber nicht nur die aktuelle Entwicklung, sondern über einen längeren Zeitraum“, sagt die Wissenschaftlerin.

Mittelmaß

Ob sie denn niemals KI für ihre Texte einsetzen würde, will Markus Hengstschläger von Angelika Hager wissen. „Meine Berufsberechtigung ist, individuelle Texte zu verfassen, die nicht mit Maschinen generiert werden können“, erwidert die Journalistin. „Da geht es um Unverkennbarkeit.“ Julia Neidhart hakt ein: „Diese Modelle geben statistische Muster wieder – also welches Wort laut Wahrscheinlichkeit als nächstes folgt“, so die Forscherin. „Genau deswegen landen wir im Mittelmaß, was man an den Texten merkt.“

Starke Meinung wird relativiert

Markus Hengstschläger will wissen, ob Englisch in Zukunft noch mehr dominieren werde, was Neidhart bejaht. „Bei ChatGPT3 sind 93 Prozent der Trainingsdaten auf Englisch“, sagt sie. „Da sieht man schon eine massive Diskrepanz.“ Man müsse sich nur einmal in ein Kaffeehaus setzen und jungen Menschen beim Reden zuhören, wirft Angelika Hager ein. „Die werfen mit englischen Worthülsen wie literally, random oder obsessed nur so um sich“, sagt die Autorin. Zudem würden Studien belegen, dass Sprachmodelle ausgefallenere Wörter nicht einsetzen und Satzstellungen an Variationen verlieren, sagt Julia Neidhart, aber es käme noch etwas dazu: „Wenn man Texte mit einem starken Standpunkt von KI überarbeiten lässt, hat sich gezeigt, dass dieser relativiert wird.“