TikTok prelazi na moderaciju sadržaja vođenu umjetnom inteligencijom

TikTok je nedavno otpustio stotine ljudskih moderatora i zamijenjuje ih sustavom umjetne inteligencije

Bug.hr utorak, 15. listopada 2024. u 14:46
📷 AI-generirana ilustracija
AI-generirana ilustracija

Prijelaz na moderiranje vođeno AI-jem započeo je otpuštanjem gotovo 500 zaposlenika, većinom u Maleziji, uz dodatna smanjenja u Ujedinjenom Kraljevstvu. Trenutno TikTok koristi hibridni pristup gdje automatizirane tehnologije obrađuju oko 80% kršenja pravila sadržaja, dok ljudski moderatori upravljaju preostalih 20%.

U sklopu ove inicijative, ByteDance planira uložiti 2 milijarde dolara globalno u poboljšanje sustava moderiranja kroz napredne AI tehnologije. Ulažu jer smatraju AI sustave učinkovitijim i isplativijim u obradi zadataka pregleda sadržaja.

AI ne može shvatiti nijansirana kulturna značenja

Pomak prema moderiranju sadržaja AI-jem izaziva zabrinutosti među stručnjacima iz industrije i zagovornicima prava radnika. Prvo, može li umjetna inteligencija shvatiti nijansirana kulturna značenja i suptilna kršenja pravila koja su ljudski moderatori obučeni prepoznati? Drugo, otpuštanja stotina ljudskih moderatora izazvala su zabrinutost oko sigurnosti radnih mjesta u industriji. Treće, nedostatak procjena sustava moderiranja AI-ja od strane vanjskih organizacija izazvao je zabrinutost oko njihove pouzdanosti i odgovornosti.

Kritičari tvrde da su ljudski moderatori i dalje neophodni, posebno u višejezičnim i kulturno raznolikim regijama poput Malezije. Kao odgovor na otpuštanja, stotine TikTok zaposlenika u Londonu formiralo je sindikat kako bi se borili za svoja radna mjesta i poboljšali radne uvjete.