Komoda s názvom „Prepáčte, túto požiadavku nemôžem splniť“

Je to vtipné, kým sa to nestane vám. Produkt s názvom „Prepáčte, túto požiadavku nemôžem splniť“ nikto nenájde, nekúpi a obchod, ktorý ho predáva, pôsobí nedôveryhodne.

Čo sa stalo

Na Amazone sa v januári 2024 objavili ponuky, ktorých názov bol v skutočnosti odmietnutie od chatbota. Podľa Futurism a Business Insider (ktoré zhrnula databáza AI Incident Database, incident 625, ku dňu 12. 1. 2024) išlo napríklad o komodu s názvom „I'm sorry but I cannot fulfill this request it goes against OpenAI use policy“. Kreslo od značky khalery malo názov „I'm Unable to Assist with This Request it goes Against OpenAI use Policy and Encourages Unethical Behavior“. Ďalšie ponuky tvorila vonkajšia sedacia súprava, brašňa na bicykel a polyuretánová hadica s podobným textom v názve alebo popise. Ars Technica spomína aj záhradné stoličky, kancelársky nábytok a čínske náboženské texty. Washington Post, ktorého článok databáza tiež eviduje, spomína produkt s názvom začínajúcim „I'm sorry as an AI language model I cannot complete this task“.

Ako to vzniklo

Business Insider aj Futurism sa zhodujú vo vysvetlení: predajcovia pravdepodobne použili chatbota od OpenAI na tvorbu názvov a popisov produktov a výstup nikto neskontroloval. Futurism dodáva, že mnohí z týchto predajcov sú prepredajcovia. Texty sa zrejme generovali hromadne a vložili sa do systému tak, ako prišli. Keď model odmietol požiadavku, odmietnutie sa stalo názvom produktu.

Ktorý model presne text vytvoril, tieto správy nepotvrdzujú. Názov odkazuje na pravidlá OpenAI, no chyba nie je v modeli, ale v procese. Nikto sa nepozrel na výsledok.

Reakcia Amazonu

Amazon podľa Futurism povedal, že sa snaží zabezpečiť dôveryhodné nakupovanie a od predajcov tretích strán vyžaduje presné ponuky. Hovorca dodal: „We have removed the listings in question and are further enhancing our systems.“ (Ponuky sme odstránili a ďalej zlepšujeme naše systémy.) Business Insider uvádza, že aspoň jedna ponuka hadice bola neskôr odstránená.

Čo to znamená pre slovenský e-shop

AI popisy produktov môžu aj slovenskému e-shopu ušetriť veľa času. Treba ich však kontrolovať. Zjavná chyba, ako odmietnutie v názve, je najľahšia na odhalenie. Horšie sú chyby, ktoré na prvý pohľad nevidno: vymyslený parameter, rozmer alebo materiál, ktorý produkt nemá. Podľa slovenského zákona o ochrane spotrebiteľa (§ 10 zákona č. 108/2024 Z. z.) môže byť klamlivým konaním aj nepravdivá informácia o hlavných vlastnostiach produktu. Jazykové modely môžu pri nedostatku údajov doplniť hodnoverne znejúce, ale nepravdivé tvrdenie.

Na dôvere zákazníka pritom záleží viac než na jednom texte. Nepodarený názov produktu je viditeľný dôkaz, že za katalógom nikto nestojí. Zákazník sa potom oprávnene pýta, či sú pravdivé aj ostatné údaje: dostupnosť, parametre, ceny a podmienky vrátenia. Takýto produkt navyše nikto nenájde cez vyhľadávanie ani cez filter, takže ide aj o stratený predaj.

Prečo to nikto nezachytil

Pri tisíckach produktov nikto neotvára každú kartu. Automatizovaný postup mohol vyzerať takto: tabuľka s parametrami, požiadavka na model, odpoveď rovno do e-shopu. Medzi odpoveďou a zverejnením zjavne chýbal krok kontroly. Keď model odmietol požiadavku, systém to nerozlíšil od platného názvu.

Rovnaký postup si možno ľahko predstaviť aj pri slovenskom e-shope: import z feedu dodávateľa, generovanie popisov a automatické zverejnenie. Rozdiel medzi pohodlným procesom a rizikom je jeden krok kontroly.

Bezpečný postup s AI popismi

Cieľom nie je AI nepoužívať, ale dať jej úlohu, ktorú zvládne, a skontrolovať výsledok skôr, než ho uvidí zákazník. AI je dobrá pri formulácii, skracovaní a zjednocovaní štýlu. Slabšia je pri faktoch, ktoré jej nedáte.

1. Vygenerujte texty do pracovnej tabuľky, nie priamo do e-shopu.
2. Automaticky vyhľadajte podozrivé frázy a prázdne či príliš krátke texty.
3. Nechajte človeka prečítať vzorku a všetky produkty s vyššou hodnotou.
4. Až potom importujte do e-shopu a zapíšte dátum a verziu textu.

Čo urobiť

• Každý text od AI nech prečíta človek. Pri tisícke produktov aspoň namátkovo, no vždy pred zverejnením.
• Hľadajte typické frázy. V celom exporte katalógu vyhľadajte „ako jazykový model“, „nemôžem“, „I cannot“, „I'm sorry“ a „OpenAI“.
• Dajte AI iba overené údaje. Parametre berte z tabuľky od dodávateľa a AI nech len formuluje text. Zakážte jej dopĺňať, čo nedostala.
• Skontrolujte existujúci katalóg. Ak ste už texty od AI hromadne importovali, prehľadajte ich dnes. Chybný názov býva neviditeľný, kým ho niekto nehľadá.
• Zapíšte, kto čo schválil. Keď sa chyba objaví, viete, kde proces zlyhal.

Ako AI použiť pri popisoch tak, aby ste na ne mohli spoliehať, rozoberá článok AI popisy produktov.