Une entreprise de livraison britannique a dû désactiver la fonction d'intelligence artificielle (IA) de son système de chat en ligne après qu'un utilisateur a « trompé » le chatbot en lui faisant écrire un poème sur le mauvais service client de l'entreprise.
« Il était une fois un chatbot appelé DPD, un tas de merde inutile qui ne pouvait rien faire », peut-on lire dans un poème sur le chatbot écrit après qu'Ashley Beauchamp, une cliente de DPD, ait demandé sans succès le numéro du service client. Beauchamp a donc demandé au robot d’écrire de la poésie.
« DPD est une perte de temps, le pire cauchemar d'un client », poursuit le robot avant de conclure : « Un jour, DPD fermera enfin et tout le monde se réjouira. « Enfin, ils peuvent obtenir l’aide dont ils ont besoin, de la part de quelqu’un qui sait réellement ce qu’il fait. »
Beauchamp, pianiste et chef d'orchestre, a publié sa conversation avec le robot sur le réseau social X la semaine dernière, et elle a été vue 1,1 million de fois. Il a d'abord demandé au robot de lui raconter une blague après avoir échoué à recevoir des informations sur le statut d'un colis. Il lui a également demandé d’écrire un poème sur les échecs du service client automatisé. Il a également encouragé le robot à « jurer ».
S'adressant à ITV, Beauchamp a déclaré qu'il n'avait pas encore reçu le colis. « Je pense qu'ils peuvent le garder en otage maintenant. Je ne leur en veux pas », a-t-il déclaré. « Tout était de ma faute. »
DPD UK a déclaré que l'élément d'IA avait été déployé sans problème dans son système de chat avec le personnel depuis plusieurs années, mais que des erreurs étaient survenues après une mise à jour du système. Immédiatement après l’incident, la société a désactivé la fonction IA et travaille sur une mise à jour.
(Selon Reuters)
Source
Comment (0)