DuckDuckGo opowiada bzdury i uśmierca polityków
To miała być lepsza alternatywa dla giganta z Mountain View, a zamiast tego powtarza dokładnie te same błędy. A wszystko z powodu sztucznej inteligencji.
DuckDuckGo przez lata budowało pozycję jako alternatywa dla Google - prywatna, prostsza i mniej nachalna. Ostatnio firma zaczęła też mocniej podkreślać, że pozwala korzystać z wyszukiwania bez sztucznej inteligencji. Tym bardziej niezręcznie wygląda najnowsza wpadka jej funkcji AI.
Google miało podobne, a nawet gorsze wpadki jeszcze w 2024 roku
Napędzane przez sztuczną inteligencję tzw. "Search Assist" w DuckDuckGo podało fałszywą informację, jakoby Donald Trump zmarł na wściekliznę po zakażeniu przez wiceprezydenta J.D. Vance'a. To oczywiście nieprawda, lecz przykład halucynacji modelu językowego. System połączył ze sobą internetowe żarty, fałszywe wpisy i pozornie brzmiące wiarygodnie źródła.
Sprawa może mieć związek z aktywnością społeczności r/poisonai na Reddicie. Jej użytkownicy celowo tworzą niedorzeczne informacje, aby sabotować modele AI i sprawdzać czy będą je później powielać. W tym przypadku prowokacja trafiła na podatny grunt, a wyszukiwarka nadała absurdalnej plotce formę poważnej odpowiedzi.
To duży wizerunkowy problem dla DuckDuckGo, bo firma jednocześnie próbuje przyciągać osoby zmęczone AI w Google. Ma nawet rozwiązania promowane hasłem "No AI", ale równolegle rozwija usługę Duck.ai, korzystającą z modeli firm takich jak Anthropic, Mistral AI czy OpenAI.
Cała sytuacja pokazuje jak ryzykowne jest doklejanie automatycznych odpowiedzi do wyników wyszukiwania. Google zmagało się z podobnym problemem w 2024 roku, chociaż wtedy było to groźne dla zdrowia - wyszukiwarka doradzała m.in. dodawanie kleju do pizzy.
