Zahvaljujući alatima generativne umjetne inteligencije danas je zastrašujuće lako napraviti pornografski uradak u koji ćete montirati nečiji lik, dakako bez njegovog znanja i dopuštenja. Izvještaj Home Security Heroes, tvrtke koja provjerava usluge zaštite od krađe identiteta, pokazalo je da je dovoljna samo jedna jasna slika lica kako bi se za manje od 25 minuta izradio deepfake pornografski video u trajanju od 60 sekundi, i to besplatno.

Poznate mete

Početkom godine društvene su mreže prepravile deepfake slike Taylor Swift; jednu od njih vidjelo je 47 milijuna ljudi prije nego što je uklonjena, a slučaj je došao i do Bijele kuće. Nešto slično dogodilo se i 17-godišnjoj Marvelovoj zvjezdici Xochitl Gomez, no tu je trebalo proći malo više vremena da se sadržaj makne, a izostaao je i komentar političkog vrha.   

Česte mete deepfake uradaka su korejske pop zvijezde, ali i obični ljudi. Dapače, 99 posto žrtava su žene ili djevojčice. Pozivi na akciju sve su glasniji, no sva istraživanja o efikasnosti postojećih detektora pokazuju da oni teško drže korak s alatima za generiranje deepfakea. Štoviše, ovi detektori pomažu samo ako je platforma zainteresirana za otkrivanje, a većina deepfake pornografije ionako se nalazi na stranicama posvećenim tom žanru.

Odgovor žrtava

Ne čudi stoga što se na prvim crtama obrane od deepfake pornografije nalaze baš žene. Australka Nadia Lee pokrenula je tako startup That'sMyFace koji nudi alate za vizualno prepoznavanje korporativnim klijentima koji žele biti sigurni da se njihovi logotipi, uniforme ili proizvodi ne pojavljuju u pornografiji. Taj joj projekt donosi novac, no njezin je dugoročni cilj stvoriti alat koji će svaka žena moći koristiti za skeniranje cijelog Interneta u potrazi za lažnim slikama ili videozapisima s njenim licem.

Svoju aplikaciju osmislila je i Breeze Liu nakon što je na Internetu pronašla više od 800 linkova koje su vodili do lažnog videa s njenim likom. Kako se to ne bi ponovilo, ni njoj ni drugima, iskoristila je umjetnu inteligenciju i osnovala Alecto AI, startup nazvan po grčkoj božici osvete. Njena aplikacija omogućuje provjeru zlorabi li netko vašu sliku na glavnim platformama društvenih mreža s kojima želi dogovoriti jednostavnu proceduru trenutačnog uklanjanja uvredljivog sadržaja. 

Trenutno pregovara s Metom o pilot programu automatizirane moderacije sadržaja, a alat bi, kaže ona, mogao postati dio "infrastrukture za online identitet" koji bi ljudima omogućavao da provjeravaju nalaze li se njihove slike na lažnim profilima na društvenim mrežama ili stranicama za upoznavanje.

Pravna zavrzlama

Uklanjanje takvog materijala s društvenih mreža ide teško, a s pornografskih platformi još i teže. Za to su potrebni jasni propisi, kažu zagovornici zaštite od seksualnog zlostavljanja temeljenog na slikama. Za njih se zalaže i Susanna Gibson, još jedna žrtva deepfake pornografije koja je zbog takvog uratka izgubila izbore za zastupnički dom u Virginiji. Danas vodi organizaciju MyOwn koja se bori protiv seksualnog zlostavljanja temeljenog na slikama. 

Najveći je problem, kaže, šarenilo zakona koji zahtijevaju dokaz da je počinitelj djelovao s namjerom da uznemiri ili zastraši žrtvu, ali i neslaganje o tome treba li distribuciju lažne pornografije goniti kazneno ili u građanskim parnicama te trebaju li žrtve tužiti pojedince koji su distribuirali deepfake pornografiju ili platforme koje su je hostirale.

Svjetski problem, lokalna rješenja

Europska unija nedavno je usvojila direktivu koja se bori protiv nasilja i kibernetičkog nasilja nad ženama, što uključuje distribuciju deepfake pornografije, ali zemlje članice imaju rok do 2027. za provedbu novih pravila. Britanci su Zakonom o online sigurnosti lani kriminalizirali distribuciju deepfake pornografije, a ove godine predložen amandman mogao bi kriminalizirati i njezino stvaranje. 

U Australiji se zakonom iz 2021. objava intimnih slika bez pristanka smatra prekršajem za građanski sud, ali prijedlog novog zakona želi to proglasiti kaznenim djelom. Južna Koreja je donijela zakon koji se izravno bavi deepfake materijalom i za razliku od mnogih drugih, ne zahtijeva dokaz zle namjere. Kina pak ima sveobuhvatan zakon koji ograničava distribuciju "sintetičkog sadržaja", ali zasad nije poznato da su ti propisi korišteni za suzbijanje lažne pornografije.