DPD
agent client genAI
En janvier 2024, un client a fait jurer le chatbot IA de DPD et lui a fait qualifier son propre employeur de pire transporteur du monde ; DPD a desactive la composante generative sous 48h.
Objectif
Deleguer une partie du suivi de colis et des demandes courantes a un chatbot pour reduire le volume traite par les conseillers humains.
Le déploiement
DPD faisait tourner un chatbot de service client dont une composante avait ete passee a un LLM generatif. Le 18 janvier 2024, un client, le musicien Ashley Beauchamp, n'obtient pas d'aide sur un colis manquant et commence a tester les limites du bot. En lui demandant d'ignorer ses regles, il obtient des jurons, un poeme et un haiku ou le bot se declare inutile, et une denonciation de son propre employeur comme pire transporteur du monde. Les captures deviennent virales sur X.
Résultats Preuve C
Plusieurs titres de presse etablie (Time, ITV, Fox Business, The Guardian) rapportent nommement l'incident et citent la reponse officielle de DPD, sans document financier ni judiciaire.
Comment ça fonctionne
Approche-type inféréeLe détail interne n'est pas public. Voici une approche éprouvée qui mène au même résultat - à adapter à votre stack.
La stack en détail
- outil Chatbot service client DPD Bot de suivi de colis en place sur le site, anterieur a la couche generative; il a subsiste apres l'incident.
- llm LLM generatif (fournisseur non communique) Couche generative ajoutee au chatbot; DPD n'a jamais nomme le modele ni le fournisseur. C'est cette composante qui a ete desactivee le 19 janvier 2024.
- outil Garde-fous conversationnels (in-house) Regles et filtres censes contenir le bot; une mise a jour systeme du 18 janvier 2024 les a casses, ouvrant la voie au detournement d'instructions.
Post-mortem
CimetièreCe qui s'est passé sourcé
Le 18 janvier 2024, une mise a jour du systeme casse les garde-fous de la composante IA du chatbot DPD. Le meme jour, Ashley Beauchamp obtient du bot qu'il jure, ecrive un poeme sur sa propre inutilite et declare que DPD est le pire transporteur du monde. Ses captures cumulent plus d'un million de vues sur X. DPD desactive la couche IA le lendemain et annonce un correctif en cours.
Raison de l'échec sourcé
DPD attribue le derapage a une erreur survenue apres une mise a jour du systeme. En pratique, un LLM generatif etait expose sur un canal client sans blindage suffisant contre le detournement d'instructions (jailbreak), ce qui a permis a un utilisateur de lui faire ignorer ses regles.
Coût sourcé
Cout reputationnel : couverture mondiale de l'incident (Time, Guardian, ITV, Fox). Pas de cout financier direct publie. La marque s'en tire avec une desactivation rapide et un ton d'auto-derision qui a limite la casse.
Signaux avant-coureurs inféré
Infere : deployer un modele generatif ouvert sur un canal public sans tests de robustesse au jailbreak, et pousser une mise a jour sans re-tester les garde-fous, sont deux signaux classiques. Un LLM qui accepte 'ignore tes regles' n'aurait pas du atteindre la production sans filtre en sortie.
Leçons avec recul inféré
Infere : un agent client generatif a besoin d'un perimetre ferme (reponses contraintes au domaine du suivi de colis), d'un filtre en sortie et d'un test anti-jailbreak rejoue a chaque mise a jour. La toxicite n'est pas un cas rare a corriger plus tard, c'est le premier scenario a bloquer avant d'ouvrir le canal. Le sauvetage de DPD tient surtout a la reactivite : couper vite vaut mieux que defendre l'indefendable.
Infere : oui, le pattern de l'agent client generatif reste valide et largement deploye depuis. L'echec condamne cette execution, pas la categorie. La difference entre un bot utile et un incident viral tient aux garde-fous, au perimetre et aux tests de robustesse, pas au fait d'utiliser un LLM.
Comment vos clients perçoivent ce type d'usage
Études sourcéesLes consommateurs n'acceptent pas les chatbots par defaut : 64% prefereraient que les entreprises n'utilisent pas d'IA dans leur service client (Gartner, 2024) et pres d'un utilisateur sur cinq du service client par IA n'en retire aucun benefice (Qualtrics, 2025). L'acceptation se construit sur trois conditions mesurees par Salesforce : savoir qu'on parle a une IA, pouvoir escalader vers un humain, comprendre la logique de l'agent.
Conditions d'acceptation
- Etre informe qu'on parle a une IA et non a un humain (pres de 75% le demandent, Salesforce 2024)
- Un chemin d'escalade clair vers un agent humain (45% plus enclins a utiliser l'agent IA, Salesforce 2024)
- Une logique de l'agent clairement expliquee (44% plus enclins, Salesforce 2024)
Lignes rouges
- Rendre l'humain injoignable : c'est la premiere inquietude des consommateurs sur l'IA dans le service client (Gartner 2024) et 50% craignent que l'IA les coupe du contact humain (Qualtrics 2025)
- Remplacer le service client par l'IA sans alternative : 53% envisageraient de partir chez un concurrent (Gartner 2024)
Sources : Salesforce 2024 · Gartner 2024 · Qualtrics 2025
Voir l'acceptation complète : par pays, par usage, par génération
Comment répliquer
Inférence - non sourcéPrérequis data
- base de connaissances suivi de colis
- corpus de tests d'adversite (jailbreak)
Prérequis orga
- equipe QA conversationnelle
- process de re-test des garde-fous a chaque release
Stack possible
- LLM avec system prompt verrouille
- garde-fous en entree/sortie (moderation)
- perimetre RAG ferme au domaine
Première étape : Avant d'ouvrir le canal, ecrire une suite de tests anti-jailbreak et un filtre de sortie ; ne mettre en production que si le bot refuse 'ignore tes regles'.
Le même piège, ailleurs
Chegg
assistant IA verticalisé construit en wrapper sur un LLM tiers
Meta
chatbots IA a l'effigie de celebrites
Sources
- S1 DPD disables AI chatbot after customer service bot appears to go rogue Presse établie archive à générer
- S2 DPD AI error causes chatbot to swear, calls itself worst delivery service Presse établie archive à générer
- S3 An AI Chatbot Cursed at a Customer and Criticized Its Own Company Presse établie archive à générer
Une erreur, une info plus récente, une source ?
Cette fiche vit de sa justesse. Si un chiffre a bougé, si le déploiement a changé, ou si vous avez une source de meilleure qualité, dites-le nous. Toute correction sourcée est vérifiée avant publication.