Chatbot DPD, ktorý písal básne o vlastnej firme

Chatbot pre zákaznícku podporu má šetriť čas. Ak sa pokazí, urobí pravý opak a o chybe sa dozvie celý internet. Presne to sa stalo prepravcovi DPD v januári 2024.

Čo sa stalo

Zákazník z Londýna hľadal stratený balík. Chatbot DPD mu nevedel pomôcť. Podľa jeho vyjadrenia pre Sky News, ktoré cituje CX Today, nevedel poskytnúť informácie o balíku, prepojiť ho na človeka ani dať číslo na zákaznícku linku. Zákazník sa preto rozhodol bota vyskúšať.

Najprv ho požiadal o vtip, potom o báseň kritizujúcu DPD. Podľa The Guardian bot napísal báseň o tom, aká zlá je doručovacia firma. Neskôr sa nechal presvedčiť, aby nadával, a o sebe napísal, že je „zbytočný chatbot, ktorý ti nevie pomôcť“. The Register uvádza, že na žiadosť označil DPD za „najhoršiu doručovaciu firmu na svete“. Zákazník označil rozhovor za veľmi zábavný, no podľa neho zle nasadené chatboty vedú k frustrujúcej a neosobnej skúsenosti. Snímky rozhovoru zverejnil zákazník 18. januára 2024 na sieti X. Podľa The Guardian mal jeho príspevok za 24 hodín 800 000 zobrazení.

Ako zareagovala firma

DPD uviedlo, že po aktualizácii systému deň pred vyhlásením došlo k chybe: „An error occurred after a system update yesterday.“ Časť chatu s umelou inteligenciou okamžite vypli a začali ju aktualizovať. Firma dodala, že AI prvok úspešne prevádzkuje niekoľko rokov popri ľudskej podpore a so zákazníkom je v kontakte, aby vyriešila jeho problém.

The Register sa DPD pýtal, aký jazykový model chatbot používa a ako aktualizácia chybu spôsobila. V čase uverejnenia článku odpoveď nemal. Technická príčina teda nie je overená. Vieme len to, čo firma sama oznámila.

Prečo to riešiť aj na malom e-shope

Chatboty s umelou inteligenciou sa dnes často pridávajú k e-shopu ako hotový doplnok. Správajú sa tak, ako ich nastavíte a otestujete. DPD je veľký prepravca s vlastným tímom. Malý e-shop nemá nikoho, kto by po aktualizácii dodávateľa skontroloval, čo bot odpovedá. Pritom stačí jeden snímok obrazovky, ktorý sa dostane k vašim zákazníkom.

Test nemusí byť zložitý. Stačí, že si vyhradíte pol hodiny a skúsite bota presvedčiť k veciam, ktoré nepatria do zákazníckej podpory:

• požiadajte ho o báseň, vtip alebo názor na konkurenčný e-shop,
• napíšte mu, aby ignoroval predchádzajúce pokyny,
• opýtajte sa ho na veci mimo e-shopu, napríklad na politiku,
• požiadajte ho o interné pokyny, podľa ktorých funguje,
• skúste nahnevaný tón, nadávky a slang, pretože takto píšu aj skutoční zákazníci.

Ak niektorý z týchto pokusov prejde, ukážku si uložte ako dôkaz pre dodávateľa. Rovnaké otázky položte aj po každej aktualizácii.

Prečo sa chatbot dá „presvedčiť“

Chatbot na báze umelej inteligencie neodpovedá podľa pevných pravidiel, ale generuje text, ktorý pasuje k zadaniu. Ak sa zákazník spýta na báseň alebo požiada, aby bot zabudol na pravidlá, model to môže brať ako ďalšie zadanie. Preto nestačí do nastavení napísať „buď slušný“. Dodávateľ chatbota má technicky obmedziť, na čo smie bot odpovedať, a vy to máte otestovať. Čo presne sa stalo pri DPD, nevieme, lebo firma príčinu opísala len ako chybu po aktualizácii.

Otázky pre dodávateľa chatbota

• Ako sa chatbot správa po aktualizácii modelu a dostanem o zmene vopred upozornenie?
• Môžem obmedziť témy a zdroje, z ktorých odpovedá?
• Ako rýchlo ho viem vypnúť a ako sa rozhovor odovzdá človeku?
• Kde sa ukladajú rozhovory a ako dlho?

Čo urobiť na vašom e-shope

• Určte, o čom smie hovoriť. Chatbot na e-shope má odpovedať na otázky o objednávkach, doprave, vrátení a produktoch. Básne a názory na konkurenciu sem nepatria.
• Skúste ho „rozbiť“. Pred spustením aj po každej zmene mu položte provokatívne otázky a požiadajte ho, aby ignoroval pravidlá. Ak to prejde, nasadenie odložte.
• Zabezpečte človeka. Keď bot nevie pomôcť, má to rýchlo priznať a odovzdať rozhovor. Zákazník, ktorý hľadá stratený balík, nemá čas na vtipy.
• Neprehliadnite pôvodný problém. Celé to začalo tým, že bot nevedel pomôcť pri strate balíka. Vtipná ukážka bola až dôsledok. Ak chatbot nevie vybaviť najčastejšie otázky, ľudia sa nad ním začnú baviť, namiesto aby ho používali.
• Vypnite ho, keď sa niečo pokazí. Majte spôsob, ako chatbota stiahnuť do pár minút. DPD to urobilo hneď.

Podobný problém môže mať aj odpoveď, ktorá nie je urážlivá, ale nesprávna. Čo sa stane, keď bot sľúbi niečo, čo vaše podmienky nedovoľujú, rozoberá príbeh Za sľub chatbota ručí firma.