Kompromitacja giganta finansowego. Raport o AI okazał się oszustwem
Sztuczna inteligencja miała ułatwić nam życie i pracę. Czasem jednak zachowuje się jak zwykły oszust, który wciska nam kit. Boleśnie przekonała się o tym znana na całym świecie firma, która przez ślepą wiarę w komputery zaliczyła potężną wpadkę.
Wielka kompromitacja zamiast hitu
W ubiegłym roku potężna firma doradcza KPMG wydała bardzo głośny raport. Dokument miał pokazać, jak największe światowe biznesy z sukcesem używają sztucznej inteligencji do obsługi swoich klientów. Brzmiało to jak cenna i rzetelna wiedza dla przedsiębiorców z całego świata. Szybko jednak okazało się, że ten tekst to jeden wielki zbiór bzdur.
Dziennikarze z Financial Times oraz zajmujący się technologią badacze z firmy GPTZero postanowili dokładnie prześwietlić ten materiał, odkrywając coś naprawdę szokującego. Zaledwie pięć na 45 przypisów w tekście prowadziło do prawdziwych źródeł, a reszta po prostu nie istniała. Połowa informacji w dokumencie była wyssana z palca. W branży technologicznej ten problem nazywa się "halucynacjami", ale mówiąc wprost – to po prostu zwykłe zmyślanie maszyn.
Dlaczego komputery nas okłamują?
Możesz się zastanawiać, dlaczego tak mądre programy podają fałszywe informacje. W przeciwieństwie do ludzi komputer nie kłamie celowo, bo nie ma złych intencji. Sztuczna inteligencja zgaduje każde kolejne słowo w zdaniu na podstawie zebranych wcześniej statystyk. Działa to trochę jak słownik w klawiaturze Twojego telefonu, który podpowiada kolejne wyrazy, tylko na znacznie większą skalę. Program chce stworzyć gładko brzmiący tekst, a prawda często schodzi na dalszy plan.
Wspomniany raport roił się od takich zmyślonych historii. Autorzy zachwalali na przykład, że wirtualny doradca linii lotniczych Emirates potrafi samodzielnie zmieniać rezerwacje lotów pasażerów. W rzeczywistości ten program to zwykły bot, który absolutnie nie ma takich możliwości. Podobne bajki wymyślono na temat szwajcarskiego banku UBS i tamtejszych kolei. Obie firmy były w szoku i błyskawicznie zaprzeczyły tym rewelacjom. Firma KPMG nie miała wyjścia i usunęła cały raport z Internetu.
Jak nie dać się oszukać w sieci?
Ta kompromitująca historia jest bardzo pouczająca. Pokazuje czarno na białym, że ślepa wiara w nowoczesne programy bywa bardzo niebezpieczna. Nie znaczy to jednak, że musimy teraz całkowicie zrezygnować z pomocy chatbotów. Trzeba po prostu traktować je z dystansem i mądrze ich używać.
Oto kilka prostych zasad, dzięki którym możesz uniknąć czytania zmyślonych bzdur:
- pisz precyzyjne polecenia, unikaj ogólników i tłumacz programowi dokładnie, co ma zrobić,
- zamiast kazać maszynie szukać faktów w Internecie, sam wklej jej tekst, który chcesz podsumować,
- nadawaj sztucznej inteligencji konkretną rolę i poproś, aby zachowywała się jak ekspert w danej dziedzinie,
- rozbijaj trudne zadania na etapy i każ programowi analizować wszystko krok po kroku,
- w bardziej zaawansowanych aplikacjach wyłącz funkcję kreatywności, co zmusi komputer do trzymania się suchych faktów.
