TikTok prelazi na moderaciju sadržaja vođenu umjetnom inteligencijom
TikTok je nedavno otpustio stotine ljudskih moderatora i zamijenjuje ih sustavom umjetne inteligencije
Prijelaz na moderiranje vođeno AI-jem započeo je otpuštanjem gotovo 500 zaposlenika, većinom u Maleziji, uz dodatna smanjenja u Ujedinjenom Kraljevstvu. Trenutno TikTok koristi hibridni pristup gdje automatizirane tehnologije obrađuju oko 80% kršenja pravila sadržaja, dok ljudski moderatori upravljaju preostalih 20%.
U sklopu ove inicijative, ByteDance planira uložiti 2 milijarde dolara globalno u poboljšanje sustava moderiranja kroz napredne AI tehnologije. Ulažu jer smatraju AI sustave učinkovitijim i isplativijim u obradi zadataka pregleda sadržaja.
AI ne može shvatiti nijansirana kulturna značenja
Pomak prema moderiranju sadržaja AI-jem izaziva zabrinutosti među stručnjacima iz industrije i zagovornicima prava radnika. Prvo, može li umjetna inteligencija shvatiti nijansirana kulturna značenja i suptilna kršenja pravila koja su ljudski moderatori obučeni prepoznati? Drugo, otpuštanja stotina ljudskih moderatora izazvala su zabrinutost oko sigurnosti radnih mjesta u industriji. Treće, nedostatak procjena sustava moderiranja AI-ja od strane vanjskih organizacija izazvao je zabrinutost oko njihove pouzdanosti i odgovornosti.
Kritičari tvrde da su ljudski moderatori i dalje neophodni, posebno u višejezičnim i kulturno raznolikim regijama poput Malezije. Kao odgovor na otpuštanja, stotine TikTok zaposlenika u Londonu formiralo je sindikat kako bi se borili za svoja radna mjesta i poboljšali radne uvjete.