Kad Ministarstvo obrane raspiše kakav javni natječaj, obično bismo očekivali da putem njega kupuju opremu, oružje, tehnologije vezane uz razne sigurnosne aspekte i slično, no ovog puta američki Pentagon pomalo je iznenadio, zagazivši u domenu – deepfakea. Naime, njihovo Zapovjedništvo specijalnih snaga (JSOC) raspisalo je natječaj za dobavu sustava kojim bi se mogle stvoriti uvjerljive internetske persone, online profili ljudi koji ne postoje, kako bi se njima istražitelji služili na društvenim mrežama i ostalim sličnim platformama.

Kreiranje lažnih računa nije nova tehnika, koristi se u praktički svakoj obavještajnoj akciji ili istrazi, kao i u amaterskim OSINT istragama, gdje su tzv. "sock puppet" računi primarno alat za smanjenje mogućnosti praćenja osoba koje istragu provode. Međutim, ovo što Pentagon sada želi nabaviti nešto je sofisticiraniji sustav, koji bi stvarao nepostojeće profile, kreirao lažne, ali uvjerljive ličnosti, njihove 2D i 3D modele lica, pakete "osobnih" slika iz svih uglova i u raznim situacijama, a uz to bi morao biti sposoban i izbjeći detekciju stvorenog sadržaja kao lažnoga.

Što vjernije, to bolje

U dokumentima se ističe i dodatni zahtjev – sustav bi morao biti u stanju, po želji korisnika, stvoriti i sliku vrlo visoke rezolucije lažne osobe, dovoljno kvalitetnu da bude korištena za identifikaciju od strane vlasti, tj. na osobnim dokumentima. Sve to moralo bi biti dostupno unutar 72 sata od zahtjeva. Kako bi se, vjerojatno, mogli zavarati sustavi provjere identiteta, natječaj specificira i opciju stvaranja 3D video zapisa, koji bi mogao proći kao stvaran kad netko za autentifikaciju zatraži kratki selfie video. Kao takvoga, ne bi ga se smjelo otkriti kao lažiranoga, bez obzira rade li ljudi ili strojevi provjeru autentičnosti.

Uz slike i video zapise lažnih osoba, alat bi morao biti u stanju generirati i krajolik prema zadanoj lokaciji, ponovno precizan i vjerodostojan, zajedno s pripadajućim zvukom, koji bi se očekivao u određenoj okolini. Sve to, čini se, agentima Pentagona treba kako bi stvarali lažne online korisničke profile, što uvjerljivije, pa s njima, kako sami pišu, "skupljali informacije s javnih internetskih foruma".

Portal The Intercept, koji je otkrio ovaj dokument zahtjeva s neobičnog javnog natječaja, kontaktirao je i AI stručnjakinju Heidy Khlaaf iz AI Now Institutea. Ona je zahtjeve za ovom tehnologijom ovako okarakterizirala: "Ne postoje zakoniti slučajevi upotrebe osim prijevare, a zabrinjavajuće je vidjeti da se američka vojska oslanja na korištenje tehnologije na koju su sami upozoravali. To će samo ohrabriti druge vojske ili protivnike da učine isto, što će dovesti do društva u kojem je sve teže razlučiti istinu od fikcije."