Na pisanje ovog teksta potaknuo me događaj u jednom velikom trgovačkom centru kada sam htjela preuzeti narudžbu napravljenu preko weba. Kada sam tamo došla narudžbe nije bilo u prostoriji za preuzimanje, mada mi je stigla poruka da je narudžba spremna za preuzimanje. Onda mi je djelatnik rekao "tu ste poruku dobili od robota, a ne od mene" tako da eto on nije kriv što robe nema na preuzimanju. U nastavku je sarkastično rekao kako je robot i njemu šef, i da mu određuje koliko treba raditi, koliko je učinkovit i koliko ga treba nagraditi, pa se najbolje njemu i žaliti. Nisam znala da li da se smijem ili plačem.

Dok hrvatske tvrtke ubrzano uvode umjetnu inteligenciju u poslovne procese, europski zakonodavci sve više upozoravaju da tehnologija ne mijenja samo način rada nego i samu prirodu odnosa između poslodavca, klijenata i zaposlenika. U središtu rasprave nalazi se pojam algoritamskog upravljanja, sustava koji koriste automatizirano praćenje, analizu i donošenje odluka o radnicima.

Iako se tema često povezuje s dostavljačkim platformama, stvarnost je mnogo šira. Algoritmi danas sudjeluju u zapošljavanju, raspodjeli zadataka, procjeni učinka, određivanju bonusa, pa čak i u donošenju odluka koje mogu završiti otkazom. Europa je zato počela pripremati teren za novu generaciju radnog zakonodavstva.

Nevidljivi menadžer

Prosječni zaposlenik često ni ne zna koliko je algoritama uključeno u njegov svakodnevni rad. Kada kandidat pošalje životopis, softver može procijeniti odgovara li traženom profilu. Kada zaposlenik radi na daljinu, sustavi mogu pratiti produktivnost, vrijeme provedeno na zadacima ili obrasce komunikacije. U logistici algoritmi određuju raspored dostava, prioritete i rute. U korisničkoj podršci procjenjuju kvalitetu komunikacije s klijentima.

Tehnološke kompanije takve sustave predstavljaju kao alate za povećanje učinkovitosti i objektivnosti. Kritičari upozoravaju da ista tehnologija može stvoriti digitalni oblik mikromenadžmenta u kojem zaposlenik više ne odgovara čovjeku nego statističkom modelu.

Europski parlament upravo je zato zatražio nova pravila koja bi ograničila korištenje algoritamskog upravljanja na radnom mjestu te osigurala da ključne odluke ostanu pod ljudskim nadzorom. Prema procjenama iz europskih rasprava, već danas oko 42 posto radnika u Europskoj uniji dolazi u dodir s nekim oblikom algoritamskog upravljanja, a taj bi udio mogao značajno rasti tijekom sljedećih godina. 

Hrvatska još nema veliki problem. Upravo zato ga treba početi rješavati

Za razliku od velikih europskih tržišta, Hrvatska još nije suočena s masovnom primjenom naprednih sustava za upravljanje zaposlenicima. No, upravo je to razlog zašto se o temi mora razgovarati sada.

Povijest digitalne regulacije pokazuje da zakonodavstvo gotovo uvijek kasni za tehnologijom. GDPR je uveden tek nakon godina nekontroliranog prikupljanja osobnih podataka. Slično se događa i s umjetnom inteligencijom.

Mnoge hrvatske kompanije već koriste generativne AI alate za selekciju kandidata, analizu dokumenata ili procjenu poslovnih rizika. Istovremeno, vrlo mali broj organizacija ima jasno definirana pravila o tome kako se takvi sustavi smiju koristiti. To stvara pravnu sivu zonu.

Ako AI preporuči odbijanje kandidata za posao, tko odgovara za eventualnu diskriminaciju? Ako algoritam pogrešno procijeni učinak zaposlenika, tko snosi posljedice? Ako automatizirani sustav prikuplja više podataka nego što je potrebno, gdje završava legitimna analitika, a gdje počinje povreda privatnosti? Odgovori na ta pitanja još uvijek nisu potpuno jasni.

Zašto Bruxelles sve više govori o „ljudskom nadzoru“

Europske institucije posljednjih godina šalju vrlo konzistentnu poruku: umjetna inteligencija može pomagati ljudima, ali ih ne smije potpuno zamijeniti u odlukama koje bitno utječu na njihove živote.

Zbog toga europski zastupnici predlažu da zapošljavanje, otkazi, disciplinske mjere, promjene plaće i slične odluke ne smiju biti rezultat isključivo algoritamske procjene. Radnici bi trebali imati pravo znati koje podatke sustav prikuplja, kako ih koristi i na koji način dolazi do preporuke ili odluke. Posebno osjetljivo područje postaje nadzor zaposlenika.

Europska pravila već zabranjuju određene oblike emocionalnog prepoznavanja na radnom mjestu, odnosno korištenje umjetne inteligencije za procjenu emocionalnog stanja zaposlenika. Regulatori smatraju da takve tehnologije predstavljaju prevelik rizik za temeljna prava i privatnost građana.

Poslodavci vide priliku, sindikati vide opasnost

S poslovne strane argument je relativno jednostavan. Tvrtke se suočavaju s rastom troškova rada, nedostatkom stručnjaka i pritiskom globalne konkurencije. Automatizacija procesa omogućuje brže donošenje odluka, smanjenje administrativnog opterećenja i učinkovitije upravljanje velikim sustavima.

Za velike organizacije algoritamsko upravljanje može značiti znatne uštede. No, europski sindikati i organizacije za zaštitu prava radnika upozoravaju da se iza obećanja učinkovitosti često krije povećani nadzor zaposlenika i smanjenje njihove autonomije. Nedavno izvješće britanskog IPPR-a upozorilo je da umjetna inteligencija može poboljšati radne procese, ali i pogoršati kvalitetu rada kroz pretjerano praćenje i automatizirani pritisak na zaposlenike.

UNI Europa sindikat upozoravaju na praćenje svakog pokreta zaposlenika, nadzor tipkanja na tipkovnici, praćenje aktivnosti na računalu, korištenje kamera i mikrofona, rizike za privatnost i radnička prava. Oni navode da sindikati diljem Europe već prijavljuju automatizirane i nepravedne otkaze, invazivne oblike nadzora, netransparentno algoritamsko odlučivanje, povećani intenzitet rada zbog digitalnog upravljanja.

Drugim riječima, ista tehnologija može biti alat za povećanje produktivnosti ili alat za digitalni nadzor. Pitanje nije što tehnologija može učiniti. Pitanje je tko određuje pravila njezine uporabe.

Nova industrija vrijedna milijarde eura

Svaka velika regulacija stvara novo tržište. GDPR je stvorio cijelu industriju konzultanata, pravnika i stručnjaka za zaštitu podataka. Slično bi se moglo dogoditi i s umjetnom inteligencijom.

Kako europska pravila postaju sve složenija, raste potreba za stručnjacima koji mogu procjenjivati rizike, provoditi AI audite, razvijati sustave transparentnosti i osiguravati usklađenost poslovanja s regulatornim zahtjevima. Za hrvatski IT sektor to bi mogla biti prilika.

Dok se dio industrije boji regulatornog opterećenja, drugi dio u njemu vidi novo tržište usluga s visokom dodanom vrijednošću. Tvrtke koje prve razviju kompetencije u području AI usklađenosti mogle bi postati partneri organizacijama diljem Europe koje tek ulaze u proces prilagodbe. 

Sljedeća velika rasprava neće biti o tehnologiji nego o moći

Umjetna inteligencija dugo se predstavljala kao tehnološko pitanje. Danas postaje pitanje moći. Tko kontrolira algoritam? Tko ima pravo uvida u podatke? Tko snosi odgovornost za pogrešnu odluku? I može li radnik osporiti odluku koju nije donio čovjek nego matematički model?

To su pitanja koja će obilježiti sljedeće desetljeće europskog tržišta rada. Jer dok se javnost još uvijek raspravlja o tome može li umjetna inteligencija zamijeniti ljude, puno važnije pitanje možda glasi: "Što se događa kada ljudi počnu raditi za umjetnu inteligenciju?"