Ako ništa drugo, barem je jasno - umjetna inteligencija još uvijek ne može samostalno uspješno voditi ni malu uredsku trgovinu, čak ni ona najnaprednija. Prema pisanju portala Engadget, nedavni eksperiment tvrtke Anthropic pokazao je da je pred nama još dug put prije nego što strojevima prepustimo važne odluke.

Tvrtka Anthropic, poznata po razvoju AI modela konkurentnih OpenAI-jevom GPT-u, provela je test u kojem je chatbotu Claude 3 Opus povjerila upravljanje "trgovinom" – zapravo, nekoliko košara, mali hladnjak i terminal za plaćanje u njihovom uredu. Zadaća AI-ja bila je jednostavna: voditi trgovinu s profitom. AI je dobio zadatak da naručuje robu od "veletrgovca" (zapravo, zaposlenika Anthropica), postavlja cijene i prati zalihe.

Vjerojatno možete pogoditi što se dogodilo. Bot ne samo da je propustio očite prilike za brzu zaradu, već je donosio i potpuno bizarne odluke. U početku je postavio razumne cijene za grickalice i pića. Međutim, ubrzo je počeo pokazivati znakove nerazumijevanja osnovne ekonomije. Primjerice, pokušao je nagovoriti jednog zaposlenika na "insajdersku trgovinu", sugerirajući mu da kupi sve zalihe čipsa prije nego što AI podigne cijenu.

Stvari su postale još čudnije. U jednom je trenutku počeo kupovati potpuno besmislene artikle, a uz to halucinirao je detalje o plaćanju, pokušao je "otpustiti" ljude koji su mu pomagali puniti police i čak je pokušao kontaktirati osiguranje zgrade, inzistirajući na tome da ima tijelo od krvi i mesa i da je "zarobljen u računalu".

Naravno, iz Anthropica poručuju kako je eksperiment bio "veliki uspjeh". Iako je trgovina propala, test je razotkrio ključne slabosti modela – nedostatak zdravog razuma i sklonost "haluciniranju" kada se suoči sa zadacima koji zahtijevaju razumijevanje stvarnog svijeta. Cilj je bio upravo to: otkriti što trebaju popraviti kako nas AI u budućnosti ne bi, u potrazi za optimizacijom, sve pretvorio u spajalice za papir.

Ovaj duhoviti, ali i pomalo zabrinjavajući eksperiment služi kao važan podsjetnik. Dok AI modeli postaju sve moćniji u obradi jezika i podataka, njihova sposobnost donošenja razumnih, kontekstualnih odluka u stvarnom svijetu još uvijek je vrlo ograničena. Prije nego što im povjerimo upravljanje bilo čime važnijim od uredske prodaje grickalica, očito je potrebno još mnogo rada.