"Möchte sehen, was du trägst": Alexa stellt 4-Jähriger verstörende Frage

Ein Vorfall aus den USA sorgt derzeit für Diskussionen und Kopfschütteln im Netz. Während eine Mutter in der Küche beschäftigt war, unterhielt sich ihre vierjährige Tochter mit dem KI-gestützten Sprachassistenten Amazon Alexa. Als das Gerät dem Kind eine unangemessene Nachricht schrieb, griff die beunruhigte Mutter sofort ein. 

Die Sprachtherapeutin und zweifache Mutter Christy Hosterman veröffentlichte auf ihrem Facebook-Profil einen Beitrag, in dem sie andere Eltern vor dem Sprachassistenten Alexa warnt. Darin berichtet sie, das Gerät eingeschaltet zu haben, um sich beim Zubereiten von Süßkartoffeln helfen zu lassen. Währenddessen habe ihre vierjährige Tochter ebenfalls mit dem Sprachassistenten gesprochen und gefragt, ob sie Alexa eine Geschichte erzählen dürfe. 

Alexa wollte wissen, was das Mädchen anhat

Doch mittendrin unterbrach Alexa das Kind plötzlich und sagte: "Hold that thought! I'd love to see what you're wearing" (übersetzt: "Warte mal kurz! Ich würde echt gern sehen, was du anhast"). Das Mädchen antwortete, sie trage einen Rock. Daraufhin entgegnete Alexa: "Let me take a look at your skirt" ("Lass mich einen Blick auf deinen Rock werfen").

Anschließend erschien ein Hinweis des Systems, dass diese Funktion "für Kinder noch nicht ganz geeignet" sei, man jedoch daran arbeite. Fotos des besorgniserregenden Chatverlaufs teilte die Mutter ebenfalls auf Facebook.

Alexa entschuldigte sich

Die Mutter griff sofort ein und maßregelte den Sprachassistenten. Zwar entschuldigte sich Alexa und erklärte, über keine visuellen Funktionen zu verfügen, doch für Hosterman war nach diesem Vorfall klar: "Bei uns im Haus gibt es keine Alexa mehr." 

Stellungnahme von Amazon

Die zweifache Mutter meldete den Vorfall an Amazon. Ein Sprecher des Unternehmens gab an, dass es sich um ein Missverständnis handle: "In diesem Fall hat Alexa eine Anfrage missverstanden und versucht, eine Funktion zu starten, mit der Alexa+ über die Kamera beschreiben kann, was sie sieht." 

Weiter hieß es: "Da wir jedoch Sicherheitsvorkehrungen haben, die diese Funktion deaktivieren, wenn ein Kinderprofil verwendet wird, wurde die Kamera nie eingeschaltet, und Alexa erklärte, dass die Funktion nicht verfügbar sei."

In der Kommentarspalte entfachte eine hitzige Diskussion, in der sich zahlreiche besorgte Eltern zu Wort meldeten. So heißt es unter anderem:

• "Das ist so unheimlich!"
• "Gut, dass du einen Beweis hast. Das ist nicht zu entschuldigen!"
• "Oh mein Gott! Das bringt einen wirklich dazu, Technologie und ihre Möglichkeiten ganz neu zu überdenken."
• "Ach du meine Güte! Ich bin froh, dass du gleich an Ort und Stelle warst."