KI-Assistentin sorgt für Aufregung: "Fing an, wirres Zeug zu reden"

Nach Kundenbeschwerden über zu menschliche Antworten hat die australische Supermarktkette Woolworths seine KI-gestützte Einkaufsassistentin überarbeitet. Der Telefonbot "Olive" werde in Kundengesprächen nicht mehr über Geburtstage sprechen, teilte Woolworths am Freitag mit. Supermarkt-Kunden hatten sich darüber beschwert, dass "Olive" am Telefon ihre angebliche Mutter und deren Geburtstag erwähnt hatte.

"Fing an, wirres Zeug zu reden"

Die auf Künstlicher Intelligenz (KI) basierende Einkaufsassistentin "Olive" soll den Supermarkt-Kunden am Telefon etwa bei Produktsuche oder Sendungsverfolgung helfen. Wie ein Nutzer im Onlinedienst Reddit berichtete, fragte "Olive" ihn dabei auch nach seinem Geburtsdatum - "und als ich es nannte, fing sie an, wirres Zeug darüber zu reden, dass ihre Mutter im selben Jahr geboren wurde".

Behauptet, eine reale Person zu sein

Ein Nutzer berichtete im Onlinedienst X, seine Mutter habe von "Olive" eine ganz ähnliche Antwort erhalten. Sie habe immer wieder behauptet, "eine reale Person zu sein und angefangen, von ihren Erinnerungen an ihre Mutter und deren wütender Stimme zu erzählen".

Ein anderer Nutzer berichtete auf Reddit, "Olive" habe auch ihm von angeblichen Familienangehörigen erzählt. Das "erfundene Wortgeplänkel" sei eklig, peinlich und eine "völlig unnötige Zeitverschwendung" gewesen.

Eigentlich "sehr positives" Feeback zu Olive

Ein Woolworths-Sprecher sagte, "Olive" habe seit 2018 eigentlich "sehr positives" Feedback erhalten. Viele Kunden hätten dabei auch ihre "Persönlichkeit" hervorgehoben. Die "Antworten zum Thema Geburtstag" habe ein Teammitglied für "Olive" geschrieben, um dem Telefonbot "eine persönlichere Möglichkeit" zu geben, "mit den Kunden in Kontakt zu treten". Nach den Beschwerden seien diese Skripts nun aber gelöscht worden.

Woolworths ist eine der größten australischen Supermarktketten und bei weitem nicht das einzige Unternehmen, das KI-gestützte Kundenassistenten einsetzt. Im Jänner gab Woolworths eine Zusammenarbeit mit Google bekannt, um "Olive" weiterzuentwickeln. Sie soll künftig noch mehr Aufgaben für die Kunden erledigen, etwa die Erstellung von Essensplänen.