Mark Zuckerberg je u siječnju 2025. najavio zaokret u Metinoj politici sadržaja. Kompanija je ukinula programe provjere činjenica, prebacila se na sustav "Community Notes" sličan platformi X te najavila blažji tretman tema poput useljavanja i roda.

Sada Meta najavljuje još jednu promjenu koja nadopunjuje ovaj novi pristup. Ovog vikenda kompanija je objavila da će umjetna inteligencija preuzeti do 90% procjena kako njezine platforme Facebook i Instagram utječu na privatnost i stvaraju društvene rizike. Time se drastično smanjuje uloga ljudskih nadzornika koji su do sada nadzirali platforme i moguće rizike koje donose nove funkcionalnosti.

Kako funkcionira novi sustav procjene potencijalnih šteta

Meta prebacuje zadatak procjene potencijalnih šteta svojih proizvoda s ljudskih procjenjivača na umjetnu inteligenciju. Fokus je na tome da sustav umjetne inteligencije prepozna moguće rizike koje nova ažuriranja mogu donijeti korisnicima i društvu općenito.

Postupak funkcionira ovako: proizvodni timovi ispunjavaju upitnik o svojemu projektu i šalju ga na pregled sustavu umjetne inteligencije. Sustav analizira potencijalne štete - od utjecaja na mladež do širenja dezinformacija - i obično daje "trenutačnu odluku" s identificiranim rizicima koje tim mora riješiti prije lansiranja. Meta tvrdi da ovakav pristup ubrzava uvođenje novih funkcija jer eliminira dosadašnja čekanja na odobrenja.

Meta: "osnažujemo proizvodne timove"

Dosad su se nova ažuriranja mogla poslati milijardama korisnika tek nakon što su prošla ljudsku procjenu mogućih šteta. Promjena je radikalna: umjetna inteligencija sada preuzima do 90% procjena potencijalnih rizika, uključujući i osjetljiva područja poput sadržaja za mlade, nasilnog sadržaja i dezinformacija. Ljudska ekspertiza ostaje samo za "nova i složena pitanja", dok se "niski rizici" prepuštaju umjetnoj inteligenciji.

Michel Protti, Metin glavni službenik za privatnost proizvoda, rekao je u ožujku u interno objavljenoj poruci da kompanija "osnažuje proizvodne timove" s ciljem "evolucije Metinih procesa upravljanja rizicima". Implementacija automatizacije upravo je ubrzana.

Stručnjaci upozoravaju na rizike

Zvika Krieger, bivši direktor odgovornih inovacija u Meti do 2022. godine, izražava skepticizam prema ovoj promjeni. Njegov argument je jednostavan - većina inženjera i menadžera proizvoda nema specijalizirano znanje o privatnosti podataka, a to također nije njihov primarni fokus. Ova kritika ističe temeljni problem novog pristupa koji se oslanja na timove čiji je glavni cilj razvoj proizvoda, a ne upravljanje rizicima.

Interni dokumenti koje citira radijska mreža NPR dodatno pojašnjavaju ove zabrinutosti. Pokazuju da sustav umjetne inteligencije može imati značajne probleme s prepoznavanjem i rješavanjem složenijih rizika, posebno u osjetljivim područjima poput nasilnog sadržaja ili složenih pitanja privatnosti podataka.

Poslovni kontekst odluke

Meta ovu promjenu predstavlja kao dio široke industrijske prakse automatizacije čiji je cilj smanjiti troškove i ubrzati inovacije. Kompanija tvrdi da je uložila milijune dolara u svoj program privatnosti i sigurnosti te je posvećena "isporuci inovativnih proizvoda uz ispunjavanje regulatornih obveza".

Različit tretman za europske korisnike

Interni dokumenti pokazuju da bi korisnici Europske unije mogli biti djelomično zaštićeni od ovih promjena. Interna objava navodi da će donošenje odluka i nadzor nad proizvodima i korisničkim podacima u EU ostati u nadležnosti Metinog europskog sjedišta u Irskoj.

Za 2,9 milijarde mjesečnih aktivnih korisnika diljem svijeta ostaje nejasno koliko će uspješno automatizirani sustavi prepoznati i odgovoriti na različite regionalne kontekstove koji zahtijevaju ljudsko razumijevanje.