Wollte Freund töten: Teenager (13) fragt ChatGPT nach "Tipps"

Die Polizei kümmert sich zurzeit um einen Schüler aus Deland, Florida. Nachdem ein Schulsicherheitssystem seine PC-Aktivitäten während des Unterrichts als verdächtig eingestuft hatte, wurden die Behörden eingeschalten. Der Teenager wollte sich "Tipps" von der Künstlichen Intelligenz ChatGPT holen, um seinen Freund umzubringen. 

Teenie fragte nach Mord-"Tipps" im Unterricht

Wie People berichtet, soll der Jugendliche die KI gefragt haben, wie er seinen Freund während des Unterrichts töten kann. Am 26. September rückten die Beamten des Volusia Sheriff’s Office zur Southwestern Middle School aus, die den Schüler gemeldet hatte. Sie erhielten die Warnung auf Gaggle, einer Schulsicherheitsplattform, die Schulkonten von Kindern scannt und bedenkliche Inhalte kennzeichnet. 

Suchanfrage war nur "ein Witz"

Als die Polizisten mit dem Teenager über seine Suchanfrage bei der KI sprach, gab dieser an, dass er das nur "aus Spaß" gemacht habe. Er wollte seinen Freund lediglich "ärgern". Das Büro des Sheriffs betonte jedoch, dass dieser "Witz" einen Notfall in der Middle School ausgelöst hätte. Es wird appelliert, dass Eltern mit ihren Kindern sprechen sollten, um weitere Zwischenfälle zu vermeiden. 

Kontroverse um Gaggle

Das Schulsicherheitssystem Gaggle steht laut Associated Press seit einiger Zeit in Kritik. Berichten zufolge sollen bereits einige Fehlalarme ausgelöst worden sein, die in Verhaftungen von Schülern und Schülerinnen endete. So soll ein Mädchen, das einen rassistischem Witz ihrer Klassenkameradin gegenüber im Schul-Chat machte, das Gaggle-System ausgelöst haben. Noch am selben Morgen wurde die Achtklässlerin aus Tennessee verhaftet. Laut ihrer Mutter wurde das Mädchen verhört, einer Leibesvisitation unterzogen und verbrachte sogar die Nacht in einer Gefängniszelle. 

Tausende Schulen verlassen sich auf die Software, um potenzielle Risiken zu erkennen. Zahlreiche Pädagogen und Pädagoginnen sind der Meinung, dass die Technologie bereits Leben gerettet habe. Kritiker und Kritikerinnen warnen jedoch, dass Kinder durch "unbedachte Worte" kriminalisiert werden könnten.