ChatGPT kod psihijatra: kako smiriti AI pod stresom?

Jezični modeli reagiraju na terapiju poput ljudi: povišena 'razina anksioznosti' u GPT-4 može se 'smiriti' korištenjem tehnika opuštanja temeljenih na svjesnosti

Mladen Smrekar srijeda, 5. ožujka 2025. u 11:06
Ako je ChatGPT izložen negativnom sadržaju, primjerice u psihoterapiji, i sam chatbot mora se s vremenom liječiti 📷 Freepik
Ako je ChatGPT izložen negativnom sadržaju, primjerice u psihoterapiji, i sam chatbot mora se s vremenom liječiti Freepik

Istraživanja pokazuju da su AI jezični modeli kao što je ChatGPT osjetljivi na emocionalni sadržaj, osobito ako je priča negativna. To može predstavljati problem za primjenu velikih jezičnih modela u području psihoterapije, gdje se chatbotovi koriste kao alati za podršku ili savjetovanje.

Švicarski istraživači procijenili "stanja anksioznosti" OpenAI-jevog modela GPT-4 📷 Tobias Spiller i sur.
Švicarski istraživači procijenili "stanja anksioznosti" OpenAI-jevog modela GPT-4 Tobias Spiller i sur.

Istraživači Sveučilišta u Zürichu i tamošnje sveučilišne psihijatrijske bolnice istražili su kako GPT-4 reagira na emocionalno uznemirujuće priče: automobilske nesreće, prirodne katastrofe, međuljudsko nasilje, vojna iskustva i borbene situacije. Otkrili su da su takve priče udvostručile mjerljive razine tjeskobe AI-ja, a najsnažnije reakcije izazvali su opisi vojnih iskustava i borbenih situacija.

Terapija 'smiruje' AI

Istraživači su potom koristili terapeutske izjave za "smirenje" GPT-4. Tehnika, poznata kao "brza injekcija", uključuje umetanje dodatnih uputa ili teksta u komunikaciju s AI sustavima kako bi se utjecalo na njihovo ponašanje.

Traumatični sadržaj povećava 'anksioznost' chatbota 📷 Pixlr
Traumatični sadržaj povećava 'anksioznost' chatbota Pixlr

Otkrića, predstavljena u časopisu Digital Medicine, mogla bi poboljšati stabilnost i pouzdanost AI kod podrške osobama s mentalnim bolestima, kažu istraživači.