ChatGPT kod psihijatra: kako smiriti AI pod stresom?
Jezični modeli reagiraju na terapiju poput ljudi: povišena 'razina anksioznosti' u GPT-4 može se 'smiriti' korištenjem tehnika opuštanja temeljenih na svjesnosti

Istraživanja pokazuju da su AI jezični modeli kao što je ChatGPT osjetljivi na emocionalni sadržaj, osobito ako je priča negativna. To može predstavljati problem za primjenu velikih jezičnih modela u području psihoterapije, gdje se chatbotovi koriste kao alati za podršku ili savjetovanje.
Istraživači Sveučilišta u Zürichu i tamošnje sveučilišne psihijatrijske bolnice istražili su kako GPT-4 reagira na emocionalno uznemirujuće priče: automobilske nesreće, prirodne katastrofe, međuljudsko nasilje, vojna iskustva i borbene situacije. Otkrili su da su takve priče udvostručile mjerljive razine tjeskobe AI-ja, a najsnažnije reakcije izazvali su opisi vojnih iskustava i borbenih situacija.
Terapija 'smiruje' AI
Istraživači su potom koristili terapeutske izjave za "smirenje" GPT-4. Tehnika, poznata kao "brza injekcija", uključuje umetanje dodatnih uputa ili teksta u komunikaciju s AI sustavima kako bi se utjecalo na njihovo ponašanje.
Otkrića, predstavljena u časopisu Digital Medicine, mogla bi poboljšati stabilnost i pouzdanost AI kod podrške osobama s mentalnim bolestima, kažu istraživači.