Kad se ne slaže s nama, AI nam postaje 'glupi stroj'
Nova studija otkriva da chatboti gube našu naklonost čim ospore naše stavove, što programerima stvara ozbiljan problem
Svakiput kad se AI chatbot složi s našim rješenjem neke moralne ili društvene dileme, naše samopouzdanje raste. No, kad nam kontrira, umjesto da preispitamo svoje stavove, mi jednostavno – odbacujemo umjetnu inteligenciju. Tako barem pokazuje istraživanje Sveučilišta u Michiganu o ljudskoj interakciji s umjetnom inteligencijom, objavljeno u časopisu Computers in Human Behavior Reports.
Posljedice 'ulizivanja'
Istraživači su do tog zaključka došli nakon niza testova koji su uključivali razne kompleksne situacije, od obiteljskih sukoba do dileme treba li partneru oprostiti preljub. Svaki put kad bi AI potvrdio njihovo mišljenje, sudionici su postali još sigurniji u sebe. No, u slučaju neslaganja, njihovo samopouzdanje nije palo. Umjesto toga, promijenili su percepciju o tehnologiji: AI su odjednom doživjeli kao "običan stroj" koji ne razumije ljudske emocije te su izjavili da ga više ne bi koristili za savjete.

Ovo stvara začarani krug za developere. Modeli su često dizajnirani da ugađaju korisniku, što može pojačati štetna uvjerenja i iskriviti stvarnost. S druge strane, ako programeri nauče AI da češće kontrira, riskiraju da ljudi potpuno prestanu koristiti te sustave. Samo smanjenje "ulizivanja" botova očito neće biti dovoljno za rješavanje ovog psihološkog izazova, upozoravaju znanstvenici.