Psychiater warnt: Warum KI für manche zur Gefahr wird
Künstliche Intelligenz kann Wahnvorstellungen verstärken.
Viele nutzen Chatbots bei Belastungen, um Gedanken zu sortieren oder sich einfach „auszusprechen“. Doch mit der wachsenden Verbreitung mehren sich auch Berichte über psychische Probleme im Zusammenhang mit KI. Während Sprachmodelle bei alltäglichen Sorgen durchaus unterstützend wirken können, bergen sie bei psychischen Erkrankungen auch Risiken. Besonders häufig fällt dabei ein Begriff: „KI-Psychose“. Für Maximus Berger, PhD, von der Universitätsklinik für Psychiatrie und Psychotherapie der MedUni Wien ist diese Bezeichnung jedoch problematisch. „Der Begriff ,AI-induzierte Psychose' ist kein medizinisch fundierter Begriff und stellt keine eigenständige Diagnose dar“, sagt Berger. In der Fachwelt werde er eher skeptisch betrachtet, weil er suggeriere, dass Künstliche Intelligenz selbst Psychosen auslösen könne. Dafür gebe es bislang keine wissenschaftlichen Belege.
Wahnvorstellungen und Fehlinterpretationen der Realität können verstärkt werden
Was Fachleute jedoch sehr wohl beobachten, ist ein anderer Effekt: Menschen mit bestehenden oder beginnenden psychotischen Erkrankungen können durch die Nutzung von KI-Sprachmodellen in ihren verzerrten Wahrnehmungen bestärkt werden. „Wir sehen in der klinischen Praxis, dass Betroffene im Rahmen einer Psychose Sprachmodelle nutzen und dadurch Wahnvorstellungen oder Fehlinterpretationen der Realität verstärkt werden können“, sagt Berger. Psychosen gehen in vielen Fällen mit einer veränderten Wahrnehmung der Wirklichkeit einher. Betroffene erleben etwa Halluzinationen oder entwickeln Wahnvorstellungen. Das sind fest verankerte, falsche Überzeugungen, die sich durch rationale Argumente kaum erschüttern lassen. Gerade zu Beginn einer Psychose ist die Verunsicherung oft groß, was real ist und was nicht. Berger: „Viele fragen sich, ob Geräusche echte Bedrohungen sind, sie beobachtet oder verfolgt werden.“
Werden solche Ängste mit einem Chatbot besprochen, kann das problematisch werden, vor allem dann, wenn das System nicht relativiert oder einordnet. „Sprachmodelle können in manchen Fällen Fehlannahmen eher verstärken, als sie kritisch zu hinterfragen“, warnt der Psychiater.
Die Folge: Die Überzeugung, dass die eigene Wahrnehmung stimmt, kann sich weiter verfestigen und damit die psychotische Erkrankung verstärken. Die Nutzung von KI-Chatbots kritisch zu reflektieren, kann dann auch Teil einer Therapie sein.
Psychiater Maximus Berger von der MedUni Wien.
"Hineinkippen" in Gespräche mit KI noch kein Zeichen für Psychose
Dass Chatbots auf viele Menschen oft erstaunlich empathisch wirken oder emotionale Nähe erzeugen, diese in „Gespräche“ mit einer KI sozusagen hineinkippen, sei für sich genommen kein Zeichen einer psychischen Erkrankung. „Allein der Eindruck, dass ein Sprachmodell mehr ist als ein technisches System, stellt keine Psychose dar“, sagt er.
Krankheitswert hat eine psychische Störung erst dann, wenn die Realitätsprüfung nicht mehr gelingt, also wenn unrealistische Überzeugungen nicht mehr korrigiert werden können und sich auf mehrere Lebensbereiche auswirken. Auch spektakuläre Einzelfälle, in denen Menschen KI‑Figuren als reale Wesen erleben, seien daher nicht automatisch Ausdruck einer Psychose. Entscheidend sei immer das Gesamtbild der Symptome.
Grundsätzlich könne eine Psychose aber jeden Menschen treffen. Etwa eine von 100 Personen erkrankt im Laufe ihres Lebens, sagt Berger. Häufig tritt die Erkrankung erstmals im jungen Erwachsenenalter bis etwa 25 Jahre auf. Zu den bekannten Risikofaktoren zählen unter anderem Cannabiskonsum, starke psychosoziale Belastungen und anhaltender Stress. „Eine gewisse Vulnerabilität kann im Grunde bei jedem Menschen vorhanden sein“, so Berger.
Tech-Unternehmen in Verantwortung
Angesichts der breiten Nutzung von KI sieht der Psychiater auch die Unternehmen hinter den Chatbots in der Verantwortung. „Die Antworten von Modellen sollten so gestaltet sein, dass sie psychotische Inhalte oder Suizidgedanken nicht verstärken“, fordert Berger. Stattdessen sollte bei entsprechenden Hinweisen gezielt auf professionelle Hilfsangebote aufmerksam gemacht und ermutigt werden, Unterstützung in Anspruch zu nehmen.
Trotz Bedenken sieht Berger in KI auch Potenzial. In der psychiatrischen Forschung werde sie bereits eingesetzt, etwa um Krankheitsverläufe besser einzuschätzen. Als ergänzende Unterstützung für Menschen in psychischen Krisen könnte KI künftig eine Rolle spielen, nicht aber als Ersatz. „Sprachmodelle sind derzeit nicht geeignet oder zugelassen, eine therapeutische Rolle einzunehmen“, betont Berger. Der Forschungsbedarf sei groß.
Ein zentrales Anliegen bleibt daher Aufklärung. Mit der Plattform VOICE (dasvoiceprojekt.at) gibt es ein von Betroffenen mitentwickeltes Angebot speziell für junge Menschen mit erstmals auftretenden psychotischen Symptomen. Ziel ist es, Wissen zu vermitteln und den Weg zu professioneller Hilfe zu erleichtern, ohne KI, aber gemeinsam mit Psychiaterinnen und Psychiatern entwickelt. „KI ist Teil unserer Realität. Doch gerade im sensiblen Bereich der psychischen Gesundheit braucht es einen bewussten, informierten Umgang. Wir müssen Menschen dabei unterstützen, KI sicher zu nutzen“, so Berger.
Kommentare