Projekt ROOST predstavljen je jučer u Parizu na sastanku o umjetnoj inteligenciji. Inicijativa, čiji je cilj dostupnost besplatnih alata otvorenog koda za poboljšanje online sigurnosti, posebice djece, nastala je na Fakultetu za međunarodne i javne poslove Sveučilišta Columbia, a okuplja vodeće tehnološke tvrtke poput Discorda, OpenAI-ja, Googlea i Robloxa, uz potporu zaklada John S. and James L. Knight Foundation te Patrick J. McGovern Foundation. Za prve četiri godine rada osigurano je više od 27 milijuna dolara, što pokazuje ozbiljnost ulaganja u stvaranje sigurnijeg internetskog okruženja.

Sigurnost u doba umjetne inteligencije

Razvojem generativne umjetne inteligencije internet se značajno promijenio, pa je dostupnost sigurnosnih alata danas važnija nego ikad. ROOST planira koristiti velike jezične modele za razvoj alata koji će pomoći u borbi protiv seksualnog iskorištavanja djece na internetu (CSAM). Ti će alati biti dostupni svim organizacijama za otkrivanje, pregledavanje i prijavljivanje spornog sadržaja.

Eric Schmidt, osnivač ROOST-a i bivši izvršni direktor Googlea, istaknuo je potrebu za ubrzanim razvojem online sigurnosti djece i umjetne inteligencije. "ROOST-ov pristup temeljen na otvorenom kodu potaknut će inovacije te učiniti ključnu infrastrukturu dostupnijom i transparentnijom, s krajnjim ciljem stvaranja sigurnijeg interneta za sve korisnike", naveo je Schmidt.

Podrška manjim organizacijama

ROOST posebno cilja na pomoć manjim tvrtkama i organizacijama koje često nemaju sredstva za razvoj naprednih sigurnosnih alata. Besplatna rješenja otvorenog koda omogućit će im da se usredotoče na rast svojih platformi ili usluga, uz istodobno održavanje visoke razine sigurnosti za korisnike.

Ovakav pristup rješava dugogodišnji problem tehnološkog sektora, gdje su manje platforme teško implementirale pouzdanu infrastrukturu za povjerenje i sigurnost zbog financijskih i tehničkih prepreka. ROOST-ova inicijativa demokratizira pristup ključnim sigurnosnim alatima, što bi moglo izjednačiti uvjete za online usluge svih veličina.

Roblox i druge platforme kritizirane

Pokretanje ROOST-a dolazi u vrijeme pojačanog nadzora društvenih mreža i digitalnih platformi u pogledu sigurnosti djece. Nedavna izvješća pokazuju porast prijavljenih slučajeva iskorištavanja djece za 12% u razdoblju od 2022. do 2023. godine. Platforme poput Robloxa, koji je 2020. godine koristilo više od polovice djece u SAD-u, suočile su se s kritikama zbog nedovoljno učinkovitog odgovora na seksualno iskorištavanje djece i izloženost neprimjerenom sadržaju.

Hoće li uspjeti?

Uspjeh ROOST-a mogao bi označiti prekretnicu u načinu na koji industrija pristupa složenim izazovima moderacije sadržaja i zaštite korisnika u doba umjetne inteligencije, no ovisit će o široj primjeni i kontinuiranom razvoju njegovih alata.