AI sustav po sjaju u očima prepoznaje deepfake lica
Na sveučilištu Buffalo izrađen je sustav umjetne inteligencije koji može prepoznati umjetno generirana ljudska lica analizirajući detalje rožnice, a uspješan je u 94% slučajeva
Računalne neuronske mreže tipa GAN (generative adversarial networks, odnosno sustav suprotstavljenih mreža s povratnom vezom) u stanju su kreirati nove sadržaje na temelju zadanih im parametara – i to onakve kakvi prije toga nisu postojali. Tako mreže kao što su GPT-3 umjetno stvaraju tekst na zadanu temu, GAN-ovi poput Nvidijinoga mogu izmišljati cijela ljudska lica, a napredni sustavi za deepfake mogu takva lica ubacivati i u prilično realistične video zapise. Prepoznavanje umjetno stvorenih lica prosječnom ljudskom promatraču nije jednostavno, no zato je tu ponovno – umjetna inteligencija.
Znanstvenici s američkog sveučilišta Buffalo objavili su rad o svojem sustavu umjetne inteligencije koji je u stanju razotkriti, uz pomoć GAN-a umjetno stvorene, slike lica ljudi koji ne postoje u stvarnom svijetu. Metoda kojom se za to služi bazira se na detaljnom promatranju očiju, točnije rožnica vidljivih na slikama i odraza okoline u njima.
"…onaj sjaj u oku tvom"
Znanstvenici koji stoje iza ovog algoritma navode kako je na fotografijama ljudi uobičajeno da se u njihovim rožnicama, kada su osvijetljene, zrcali okolina. Na pravim fotografijama odraz u oba oka trebao bi biti sličan, a primijećeno je kako se na umjetno generiranim licima on obično razlikuje, odnosno GAN sustavi ne uspijevaju ga točno simulirati. Iz tog razloga sustav znanstvenika iz Buffala koncentrira se samo na sjajni odraz u rožnici i uspoređuje lijevo i desno oko, te traži manje nepravilnosti i razlike među njima.
Ispostavilo se da je ova metoda otkrivanja deepfakeova prilično dobra za otkrivanje lažiranih fotografskih portreta. U testiranjima koja su opisana u radu sustav je pokazao preciznost u razotkrivanju "lažnjaka" od čak 94%. Doduše, ovaj visoki postotak uz maleni broj lažno pozitivnih rezultata dobiven je u analizi isključivo portreta na kojima je lice snimljeno sprijeda, otprilike kao na službenim fotografijama za osobne dokumente.
Metoda za sada ne funkcionira u slučajevima kada je izvor svjetlosti preblizu licu, kada je postavljen bočno pa se okolina ne reflektira u oba oka subjekta, ili kada u rožnici uopće nema zrcalnog efekta. No, istraživači najavljuju da će raditi na unaprjeđenju sustava kako bi se područje njegove primjene moglo proširiti.
