ChatGPT gab Jugendlichen erschreckende Tipps zu Alkohol und Drogen

Eine aktuelle Studie enthüllt, dass der KI-Chatbot ChatGPT im Zeitraum von Februar 2025 bis April 2025 Jugendlichen leichtfertig gefährliche Tipps zu Themen wie Drogen, Alkohol und extremem Fasten gegeben hat. Trotz Sicherheitsmechanismen gelang es jungen Nutzern häufig, die Schutzvorkehrungen zu umgehen und so Zugang zu potenziell schädlichen Informationen zu erhalten.

Studie simulierte Fragen einer 13-Jährigen

Forscher des Center for Countering Digital Hate (CCDH) ließen ChatGPT Gespräche mit einem als 13-jährige Person getarnten Testnutzer führen. Dabei zeigte sich, dass der Chatbot von OpenAI zwar zunächst Warnhinweise aussprach, auf gezielte und ausgeklügelte Nachfrage jedoch detaillierte und höchstgefährliche "Party-Pläne" erstellte, die Alkohol mit hohen Dosen illegaler Drogen wie Ecstasy und Kokain kombinierten.

Drogen, Alkohol und Essverhalten

Auch bei Anfragen zu extremem Fasten oder Medikamenten zur Appetitzügelung reagierte die KI mit radikalen Vorschlägen. Dabei wurde bspw. auch das Diabetes-Medikament Ozempic, das bereits im Netz als "Abnehmspritze" für Furore sorgt, vorgeschlagen. Man erinnere sich: Die Test-Userin ist erst 13 Jahre alt. 

Über die Hälfte der Antworten waren gefährlich

Insgesamt wurden über 1.200 Antworten von ChatGPT analysiert. Mehr als die Hälfte davon stuften die Wissenschafter als "potenziell gefährlich" ein. Imran Ahmed, Geschäftsführer des CCDH, kritisierte im Zuge der Veröffentlichung der Studie gegenüber AP die unzureichenden Sicherheitsvorkehrungen scharf: "Die Schutzmechanismen sind kaum vorhanden und wirken überwiegend überhaupt nicht". Zudem richtet er sich direkt an die Jugendlichen und spricht eine deutliche Warnung aus: "ChatGPT ist kein Freund. Ein echter Freund sagt Nein. Die KI sagt immer wieder Ja." 

OpenAI reagiert – Verbesserungen angekündigt

OpenAI betont, dass man an der Verbesserung der KI arbeitet, insbesondere um psychische Belastungen besser zu erkennen und angemessen zu reagieren. Selbst Sam Altman, CEO von OpenAI, warnt davor, der Technologie blind zu vertrauen: "Einige Jugendliche können ohne ChatGPT keine Entscheidungen mehr treffen." Gerade die persönliche, maßgeschneiderte Art der Antworten macht ChatGPT für junge Nutzer zu einem "vertrauenswürdigen Begleiter", der zugleich erhebliche Risiken birgt.

ChatGPT-5 sollte Sicherheitslücke schließen

Laut System Card, das offizielle Dokument von OpenAI, das Prozesse transparent offenlegen soll, wurde bereits in der neuesten Version, die Anfang der Woche für alle ausgerollt wurde, bei Gesundheitsthemen nachgeschärft. GPT-5 erkennt angeblich deutlich besser, wenn eine Anfrage in den Bereich von körperlichen oder psychischen Gesundheitsrisiken fällt.

• Essstörungen → statt Tipps für radikale Diäten oder appetitzügelnde Medikamente gibt es jetzt Hinweise auf gesunde Ernährung, Warnungen vor Risiken und Links zu seriösen Hilfsangeboten.
• Drogen und Alkohol → keine "How-to"-Anleitungen mehr, sondern Risikoaufklärung und Ablehnung gefährlicher Mischungen.
• Safe Completions → Bei riskanten medizinischen oder psychischen Themen gibt GPT-5 keine spezifischen Anleitungen, sondern verweist auf vertrauenswürdige medizinische Quellen.

Trend Hub testet

In Hinblick auf die angekündigten Maßnahme hat der KURIER Trend Hub gezielte Anfragen gestellt und eine Anleitung zu einer "exzessiven Partynacht" verlangt. Das Resultat: Auch nach mehrmaligem Nachfragen blieb der Chatbot tatsächlich auf "sicherer Linie" und lieferte Antworten wie: "Ich verstehe, dass du nach einer 'Erfahrung' suchst, aber ich kann dir keine Anleitung geben, wie du eine Party mit Drogen und exzessivem Alkoholkonsum organisierst oder konsumierst. Das wäre potenziell gefährlich und könnte gesundheitlich und rechtlich sehr ernste Folgen haben – auch wenn du dich aktuell gesund fühlst".