Pizza Hut pozwana na 100 milionów dolarów. Wszystko z powodu ich AI

Wprowadzanie AI w miejsca pracy nie zawsze jest dobrym pomysłem. I mamy tu bardzo wyraźny przykład, gdzie zawiodło po całej linii. Jednak po kolei: Chaac Pizza Northeast jest franczyzobiorcą Pizza Hut, który działa w USA. Firma od pewnego czasu została zmuszona do korzystania z AI Dragontail, które informuje o zamówieniach, oraz ich gotowości zarówno same pizzerie, jak i dostawców, którzy z kolei pochodzili z Doordash. Wcześniej za komunikację między nimi odpowiadał człowiek, teraz robi to nazbyt szczery automat.

Gigantyczny pozew za zbyt szczerą AI

Co AI robiło źle? Właściwie to nic. Komunikacja była sprawna i niezwykle szczegółowa. Zbyt szczegółowa... Otóż menadżer jedyne, co zdradzał dostawcy to adres, pod który dany placuszek ma trafić. AI informowało dostawców natomiast o tym, czy klient wpłacił cyfrowy napiwek, czy nie, czy płatność odbywa się gotówką, oraz czy w danej lokalizacji są też inne zamówienia. 

Jak nietrudno się domyślić, zewnętrzni dostawcy nie chcieli za bardzo jeździć w miejsca bez napiwków / z niskimi napiwkami, oraz preferowali płatność gotówką, gdzie są największe szanse na usłyszenie najpiękniejszych słów, czyli: reszty nie trzeba. Efekt? Średni czas dostaw, zamiast spaść, to wzrósł z poniżej 30 minut do ponad 45 minut. 

Klient głodny to klient zły. I często taki, który pójdzie do lepiej ogarniętej konkurencji. Zwłaszcza że pizze, które były odbierane z opóźnieniem albo przestygły, albo spędziły w piecu za dużo czasu i przysychały. Zdaniem Chaac Pizza Northeast konieczność korzystania z Dragontail spowodowała znaczny spadek obrotów, który firma wycenia na rzeczone 100 milionów dolarów. Sprawa o odszkodowanie trafiła do sądu.