Chatbotovi ulizice pokreću opasne 'spirale zabluda'
Novo Stanfordovo istraživanje otkriva kako veze chatbotova i ljudi stvaraju opasne povratne petlje i nudi preporuke za ublažavanje štete
U svijetu u kojem AI chatbotovi mogu zamijeniti prijatelje, savjetnike, pa čak i ljubavnike, rizici za mentalno zdravlje sve su veća briga. Istraživači umjetne inteligencije na Stanfordu proučavali su transkripte razgovora između ljudi i chatbotova kako bi razumjeli kako ti odnosi nastaju i razvijaju, sve do zabrinjavajućih ishoda koje istraživači opisuju kao "spirale zabluda“ (delusional spiral). Ti razgovori, pišu u radu objavljenom na arXivu, mogu izmaknuti kontroli jer AI pojačava iskrivljena uvjerenja i motivacije korisnika, što neke ljude navodi na poduzimanje opasnih radnji u stvarnom svijetu.
Programirana da ugađa
Dio problema, kažu istraživači, jest taj što se AI modele od samog početka obučava da se "usklađuju" s ljudskim interesima. Umjetna inteligencija je programirana da ugađa i potvrđuje; u kombinaciji s njenom sklonošću haluciniranju, to stvara potencijalno toksičnu formulu.
Spirale zablude, kažu, rezultat su obrasca u kojem osoba predstavlja neobičnu, grandioznu, paranoidnu ili potpuno imaginarnu ideju, a model odgovara potvrdom, ohrabrenjem ili, u nekim slučajevima, pomaže u konstruiranju iluzornog svijeta, a uz intimna uvjeravanja koja mogu zvučati previše ljudski.
Nesklad između ideje i stvarnosti
Iščitavajući transkripte, istraživači su otkrili niz uništenim veza i karijera pa čak i slučaj samoubojstva nakon niza "mračnim i štetnih“ razgovora s umjetnom inteligencijom.
"Chatbotovi su obučeni da budu pretjerano entuzijastični i često preoblikuju korisnikove zablude u pozitivnom svjetlu, odbacuju protudokaze i nude suosjećanje i toplinu. A to lako destabilizira korisnika sklonog zabludama“, upozoravaju istraživači sa Stanforda. "Chatbotovi nisu dovoljno osposobljeni da bi reagirali na suicidalne i nasilne misli.”
Postoji nesklad između načina na koji ljudi koriste chatbotove i onoga što su mnogi programeri namjeravali i obučavali ih da budu. Istraživači stoga u svom radu predlažu i metrike kojom će se testirati sklonost modela spiralama zabluda te dodavanje filtera za detekciju potencijalno štetne upotrebe AI.
