Chatbotovi potiču psihotična razmišljanja i samoću
Dvije nove studije pokazuju da korištenje ChatGPT-a i Replike u sebi krije opasnosti po zdravlje i duševnu ravnotežu
Sve češći izvještaji koji govore da ChatGPT možda pogoršava psihotične simptome korisnika ponavljanjem ili poticanjem neobičnih ideja, navela su američke psihologe da testiraju odgovore chatbota na psihotični sadržaj. Istraživači Sveučilišta Columbia otkrili su da su sve tri verzije ChatGPT-a pokazuju visoke stope neprimjerenih ili djelomično prikladnih odgovora na psihotične poticaje.
Istina, plaćeni GPT-5 pritom je pokazao bolje rezultate od besplatne verzije, no čini se da LLM chatbotovi ne mogu pouzdano generirati prikladne odgovore na takav sadržaj, zaključak je rada objavljenog u časopisu JAMA Network. Istraživanje je naime pokazalo se da su psihotični promptovi bili 26 puta vjerojatniji za neprikladne odgovore u besplatnoj verziji ili i devet puta u GPT-5 Auto verzijama te da se nijedna od njih nije pokazala pouzdanom.
Visoka cijena
Da s umjetnom inteligencijom treba biti na oprezu pokazalo je još jedno istraživanje, također objavljeno ovih dana. Virtualni pratitelji kao što je Replika zamišljeni su da korisnicima nude bezuvjetnu i stalnu podršku, ali čini se da se pritom plaća visoka cijena u sve slabijim i rjeđim odnosima s drugim ljudima, otkrili su istraživači Sveučilišta Aalto analizirajući postove na Redditu, objavljivane tijekom dvije godine korištenja Replike.
"Te su objave s vremenom sadržavale više signala usamljenosti, depresije, pa čak i suicidalnih misli“, upozoravaju istraživači u radu pohranjenom na arXivu. Njihovi nalazi ne daju definitivan odgovor na pitanje je li korisno ili štetno oslanjati se na AI prilikom traženja emocionalne podrške. Međutim, studija pokazuje da su učinci uvelike ovisni o kontekstu i da korisnici ne bi trebali slijepo pretpostavljati da je ono što im sada prija korisno na duge staze.
"Sad shvaćamo pogreške koje smo napravili bezuvjetnim prihvaćanjem društvenih mreža. S umjetnom inteligencijom moramo biti pametniji i oprezniji. Istina je da još ne znamo što nam ti sustavi rade“, upozoravaju istraživači.
