Zamienił kozy w procesor. Tak naukowiec testował mit o AI

Inteligencja złożona z kóz w grze Age of Empires II

Adrian de Wynter, badacz sztucznej inteligencji pracujący dla Microsoftu i Uniwersytetu w Yorku w Wielkiej Brytanii, opublikował nietypową pracę naukową. Postanowił sprawdzić, dlaczego ludzie tak chętnie traktują chatboty jak żywe osoby. Duże modele językowe znany z produktów takich, jak ChatGPT czy Claude. Odpowiadają na pytania w sposób przypominający ludzką mowę. Zdaniem de Wyntera to właśnie ten ton rozmowy sprawia, że użytkownicy zapominają, iż mają do czynienia z oprogramowaniem.

Żeby to udowodnić, badacz odtworzył działanie modelu językowego wewnątrz strategii Age of Empires II, używając wyłącznie kóz. W edytorze scenariuszy gry ułożył z nich bramki NAND. To najprostsze elementy logiczne komputerów. Z takich bramek można zbudować dowolny układ obliczeniowy, łącznie z całym komputerem. Kozy w grze posłużyły więc jako cyfrowe przełączniki.

Konkluzja jaką chciał uwidocznić badacz jest prosta. Skoro model językowy da się odtworzyć za pomocą kóz w grze komputerowej, klocków Lego albo grupy ludzi wykonujących proste polecenia, to jego ludzkie zachowanie nie wynika z natury systemu. Ta "ludzkość" wynika ze sposobu, w jaki ten system jest przedstawiony i jakie ludzie nadają mu cechy (jako projekcja). De Wynter zwraca uwagę, że przekonujący ton wypowiedzi i spójność odpowiedzi da się wymiernie zmierzyć. To jednak nie dowodzi, że stoi za nimi prawdziwe ani nawet symulowane "myślenie".

Eksperyment z kozami brzmi jak totalny żart, coś zrobionego dla przysłowiowej "beki". Ale jednak za tym wszystkim ostatecznie krył się poważny cel. To badanie pokazuje, że wrażenie rozmowy z kimś inteligentnym bierze się głównie ze sposobu "opakowania" modelu językowego w atrakcyjne pazłotko. Nie z tego, co faktycznie dzieje się pod spodem. Następnym razem, gdy chatbot odpowie w bardzo ludzki sposób, warto pamiętać o stadku kóz przestawianych w grze sprzed dwóch dekad.