Ein britisches Lieferunternehmen musste die künstliche Intelligenz (KI) in seinem Online-Chatsystem deaktivieren, nachdem ein Benutzer den Chatbot dazu „ausgetrickst“ hatte, ein Gedicht über den schlechten Kundenservice des Unternehmens zu schreiben.

jlaoacx5.png
Das Lieferunternehmen DPD war nach einem Serviceausfall gezwungen, die KI-Funktionalität seines Live-Chat-Systems zu deaktivieren. (Foto: Reuters)

„Es war einmal ein Chatbot namens DPD, ein nutzloses Stück Scheiße, das nicht helfen konnte“, heißt es in einem Chatbot-Gedicht, das geschrieben wurde, nachdem Ashley Beauchamp, eine DPD-Kundin, vergeblich nach der Kundenservicenummer gefragt hatte. Also bat Beauchamp den Bot, Gedichte zu schreiben.

„DPD ist Zeitverschwendung, der schlimmste Albtraum eines Kunden“, fuhr der Bot fort und schloss mit den Worten: „Eines Tages wird DPD endlich schließen und alle werden sich freuen.“ Endlich können sie die Hilfe bekommen, die sie brauchen, und zwar von jemandem, der wirklich weiß, was er tut.“

Beauchamp, ein Pianist und Dirigent, veröffentlichte letzte Woche sein Gespräch mit dem Bot im sozialen Netzwerk X und es wurde 1,1 Millionen Mal angesehen. Er bat den Bot zunächst, ihm einen Witz zu erzählen, nachdem er keine Informationen über den Status eines Pakets erhalten hatte. Außerdem bat er darum, ein Gedicht über die Misserfolge im automatisierten Kundenservice zu schreiben. Er forderte den Bot außerdem zum „Fluchen“ auf.

Gegenüber ITV sagte Beauchamp, er habe das Paket noch nicht erhalten. "Ich glaube, sie können es jetzt als Geisel nehmen. Ich mache ihnen keine Vorwürfe", sagte er. „Es war alles meine Schuld.“

DPD UK teilte mit, dass das KI-Element in seinem Chatsystem mit dem Personal mehrere Jahre lang reibungslos implementiert worden sei, nach einer Systemaktualisierung jedoch Fehler aufgetreten seien. Das Unternehmen deaktivierte unmittelbar nach dem Vorfall die KI-Funktion und arbeitet an einem Update.

(Laut Reuters)