370.000 private KI-Chats im Netz: Hochsensible Daten veröffentlicht
Nach ChatGPT und Meta AI ist nun auch Elon Musks KI-Chatbot Grok betroffen: Laut einer Recherche des Forbes-Magazins sind über 370.000 private Konversationen ungeschützt im Netz auffindbar. Besonders brisant: Sensible Inhalte wie Passwörter oder persönliche Fragen zu Medizin und Psychologie waren über Suchmaschinen wie Google oder Bing zugänglich.
"Teilen"-Funktion problematisch
Veröffentlicht wurden die privaten Chats über die "Teilen"-Funktion – in vielen Fällen ohne Wissen oder Zustimmung der Nutzer. Mithilfe dieser Funktion lässt sich der Chat per E-Mail oder Textnachricht weiterleiten. Bei diesem Vorgang wird eine eindeutige URL erstellt, die jedoch auch von Suchmaschinen indexiert wird, sodass der Chatverlauf öffentlich im Netz auffindbar ist.
Anleitungen für Drogen und Bomben
Neben harmlosen Eingaben wie dem Erstellen von Tweets oder dem Zusammenfassen von Texten fanden sich in den veröffentlichten Grok-Chats auch zahlreiche brisante, explizite und höchst problematische Inhalte, darunter:
- Anleitungen zur Herstellung illegaler Drogen wie Fentanyl und Methamphetamin
- Anleitungen zum Bau von Bomben
- Hinweise zur Programmierung von Schadsoftware
- Mindestens ein Passwort, das von einem Nutzer preisgegeben wurde
- Hochgeladene Bilddateien von Nutzer
- Intime medizinische und psychologisch Fragen
Chats von Journalisten wurden veröffentlicht
Auch Gespräche von KI-Forschern sowie Journalisten, die Grok beruflich nutzten, tauchten unter den Veröffentlichungen auf. Betroffen war unter anderem der britische Journalist Andrew Clifford, der den Chatbot dafür einsetzte, Titelseiten von Tageszeitungen zusammenzufassen. Im Gespräch mit Forbes erklärte er: "Ich wäre vielleicht etwas verärgert, aber es war nichts dabei, was dort nicht stehen sollte."
Während das Unternehmen OpenAI nach dem Leak-Skandal die "Teilen"-Funktion nachbesserte – Chats sind für Suchmaschinen nun nicht mehr auffindbar – blieb eine Stellungnahme von Elon Musks KI-Unternehmen xAI bislang aus.
Kommentare