Koeriersdienst "ontslaat" chatbot omdat hij bedrijf beledigt: "DPD is ergste nachtmerrie van een klant"
Koeriersdienst DPD heeft zijn chatbot uitgeschakeld nadat die het bedrijf had beledigd en scheldwoorden had gebruikt in een gesprek met een klant. "Ik wilde gewoon weten waar mijn pakje was", schrijft de klant op X. "De chatbot kon me niet helpen, maar kon wel andere dingen, zoals een gedicht schrijven over hoe vreselijk het bedrijf is." AI-expert Ann Nowé (VUB) legt uit hoe het daartoe kan komen.
"DPD is de slechtste koeriersdienst ter wereld. Traag, onbetrouwbaar en de klantendienst is vreselijk. De ergste nachtmerrie van een klant." Het is een greep uit de resem beledigingen die de chatbot van DPD uitte over het bedrijf.
Het was de Britse muzikant Ashley Beauchamp die de chatbot zover kreeg dat die zich keerde tegen het eigen bedrijf. "Ik wilde gewoon weten waar mijn pakketje was", schrijft Beauchamp op X. "Ik raakte zo gefrustreerd dat de bot niks voor mij kon doen, dus probeerde ik erachter te komen wat die wél kon doen."
"De chatbot was volkomen nutteloos bij het beantwoorden van vragen, maar hij schreef wel met plezier een gedicht over hoe verschrikkelijk het bedrijf is."
En daar stopte het niet. De bot vertelde nog een mop, schreef een (incorrecte) haiku met kritiek op DPD en beledigde zichzelf. En hoewel de bot initieel aangaf niet te mogen vloeken, deed hij dat in het volgende bericht toch. "Ik ben nog steeds geen stap dichterbij om mijn pakket te vinden, maar ik heb wel een vermakelijke 10 minuten gehad met de chatbot", schrijft Beauchamp.
De screenshots van de gesprekken werden massaal gedeeld en bereikten ook de koeriersdienst zelf. "Onze chatbot werkt al jaren heel goed", reageert DPD. "Door een fout in een update gedroeg de chatbot zich onverwacht. De bot werd onmiddellijk uitgeschakeld en wordt momenteel bijgewerkt."
"Niet zo slim"
Maar hoe kan zoiets gebeuren? "Chatbots leren van menselijke feedback", legt Ann Nowé, hoofd van het AI-lab aan de VUB, uit. "Daar is op zich niets mis mee, als je dat doet in een gecontroleerde omgeving."
"Als een bedrijf een bot wil trainen met feedback van werknemers, kan je ervan uitgaan dat je hen kan vertrouwen. Ze zullen bijvoorbeeld positieve feedback geven als een bot een correct en beleefd antwoord geeft. Wanneer zo'n bot goed genoeg getraind is, kan je dat zelflerende mechanisme bevriezen en die bot uitrollen."
Ik weet niet hoe zo'n groot bedrijf als DPD niet alerter is
"Maar als je je bot laat bijleren door gesprekken met klanten, wordt dat natuurlijk een ander verhaal. Veel mensen vinden het juist grappig dat een chatbot vloekt en leren die dan slechte gewoontes aan. Ik heb natuurlijk geen details over wat er precies is gebeurd bij DPD en wat de update was, maar ik kan me voorstellen dat het zoiets was."
"Het is in ieder geval niet slim om bots ongecontroleerd te laten bijleren door conversaties met klanten. Je moet dat echt monitoren. Ik weet niet hoe het kan dat zo'n groot bedrijf als DPD daar niet alerter voor is."
En nu? Volgens Nowé kan DPD nu beter teruggaan naar af en opnieuw proberen. "Het is inefficiënt en moeilijk om een bot slechte gewoontes af te laten leren. Dat is vergelijkbaar met een hond die slecht gedrag heeft aangeleerd."