Na subredditu r/ChatGPT osvanula je objava koja je privukla pozornost iz razloga koji nemaju nikakve veze s umjetnom inteligencijom, već s ljudskim dostojanstvom. Korisnik je podijelio oglas za posao tvrtke Lovingly – američke tehnološke tvrtke koja razvija sustave za e-trgovinu i prodajna mjesta lokalnih cvjećara, a nedavno se proširila na AI alate za upravljanje poslovanjem – koja za poziciju "AI-First Multipotentialite" (?!) od kandidata traži nešto (dosad) neviđeno: da u vlastiti ChatGPT račun unesu tvrtkin prompt, puste jezični model da im napravi "samoanalizu" temeljenu na čitavoj povijesti razgovora, i potom rezultat – zajedno s poveznicom na ChatGPT sesiju, da ne bi bilo "varanja“ – pošalju kao dio prijave za posao.

Prompt koji Lovingly očekuje da kandidati upotrijebe dugačak je gotovo dvije stranice i na prvu djeluje sofisticirano. Traži od ChatGPT-ja da pretražuje memoriju i povijest razgovora, ocijeni kandidata po šest dimenzija – od "Domain Agility" do "Strategic Integration" – i na kraju isporuči numerički rezultat od maksimalnih 30 bodova, zajedno s rubriciranim opisnim ocjenama, preporukama za razvoj i prosudbom u kojim je područjima kandidat jak, a u kojima ima nedostatke.

Počnimo od najočitijeg problema, jer ga je nemoguće zaobići: prva rečenica prompta laže. Doslovno kaže: "This is purely for my own self-reflection and personal growth – not for any external evaluation". Rezultat, međutim, služi upravo vanjskoj evaluaciji – kandidat ga šalje tvrtki kao dio prijave za posao. Prompt naređuje jezičnom modelu da ne napuhuje ocjene jer se navodno ne radi o eksternoj procjeni, čime manipulira model da bude kritičniji nego što bi inače bio. Kandidat, drugim riječima, šalje potencijalnom poslodavcu dokument konstruiran da bude maksimalno nepovoljan po njega samog.

No, daleko problematičnijim nalazim sam sadržaj onoga što će kandidat zapravo podijeliti kad pošalje poveznicu na svoju ChatGPT sesiju. Ljudi s ChatGPT-jem razgovaraju o svemu – o zdravstvenim problemima, financijskim odlukama, vezama, mentalnom zdravlju, poslovnim idejama koje ne žele dijeliti javno. ChatGPT ima memoriju – digitalno sjećanje, ako baš hoćete – koja akumulira naše osobne podatke kroz mjesece korištenja. Kad Lovingly traži od kandidata da pokrene prompt koji čačka po tom sjećanju, efektivno traži uvid u intimni digitalni profil osobe – profil koji nijedan razgovor za posao, koliko god invazivan bio, nikada ne bi mogao proizvesti. Jedan komentator na Redditu sažima to s kirurškom preciznošću: "Prompt koji koriste specifično je dizajniran da iz vaših AI interakcija izvuče bihevioralni profil".

Postoji i čisto metodološki problem koji bi trebao zabrinjavati svakoga tko se bavi zapošljavanjem: sustav ne mjeri ono što tvrdi da mjeri. ChatGPT ne poznaje kandidata – poznaje njegovu povijest promptanja. Osoba koja koristi ChatGPT za površne zadatke dobit će nisku ocjenu, neovisno o stvarnim kompetencijama. Osoba koja koristi ChatGPT za sofisticirane projekte dobit će visoku ocjenu, koja možda nema nikakve veze s time kako ta osoba funkcionira u timu, pod pritiskom ili u nepoznatoj okolini. Jedan korisnik na Redditu kaže da je dobio 26 od 30 bodova i ocjenu "exceptional cross-domain builder", a jedino što radi s AI-jem jest automatizacija pametnog doma. Inženjer iz FAANG tvrtke dobio je 12 od 30 bodova jer ChatGPT nema dovoljno podataka o njemu. Sustav, ukratko, mjeri intenzitet korištenja ChatGPT-ja, a ne kvalitetu kandidata.

Zabrinjavajuća je i šira slika. Lovingly nije velika korporacija; radi se o relativno maloj tvrtki iz Hopewell Junctiona u saveznoj državi New York. Oglas za posao nudi raspon plaće od 75.000 do 200.000 dolara godišnje. Kad tvrtka te veličine i tog profila smatra prihvatljivim tražiti od kandidata pristup njihovoj ChatGPT povijesti, postavlja se pitanje: što ćemo tek vidjeti kad istu praksu usvoje tvrtke s ozbiljnim resursima i pravnim timovima koji će pronaći način da je učine obveznom?

Danas je to ChatGPT sesija. Sutra bi to mogla biti povijest razgovora s Copilotom, Claudeom ili bilo kojim drugim AI alatom koji koristite. Prekosutra, možda, kompletni logovi vaše interakcije s AI asistentima na radnom mjestu. Princip je u svim slučajevima isti: netko želi uvid u to kako mislite, što vas muči, oko čega tražite pomoć i što vam pada na pamet u tri ujutro kad ne možete spavati. I to ne kroz razgovor licem u lice, u kojemu imate kontrolu nad tim što ćete podijeliti, nego kroz automatiziranu ekstrakciju iz sustava koji pamti sve.

Lovingly na kraju svog oglasa piše: "We need someone who reads this and thinks: 'Finally. A place that gets it.'“. Ajd' odjebite.

Kako biste vi prošli na ovakvom profiliranju? Zalijepite čitav prompt u vaš ChatGPT pa provjerite.