Svega nekoliko dana nakon što je Google predstavio Veo 3 kao revolucionarni AI generator videozapisa koji "prekida razdoblje šutnje", Internet već obilježava val nevjerojatno realističnih snimaka. Unatoč Googleovim sigurnosnim mjerama, korisnici stvaraju uvjerljive snimke vijesti, katastrofa i izmišljenih događaja - neki čak s dijalozima koji nisu bili dio početnih naredbi.

Veo 3, objavljen 20. svibnja na konferenciji Google I/O 2025, postao je prvi AI model koji izvorno generira usklađeni zvuk uz video sadržaj. Demis Hassabis, glavni izvršni direktor Googleovog DeepMinda, predstavio ga je riječima: "Izlazimo iz razdoblja šutnje generiranja videozapisa." Međutim, ono što nitko nije predvidio bila je brzina s kojom će korisnici iskoristiti ovaj alat za stvaranje sadržaja koji pomiče granice između stvarnosti i fikcije.

Zamijena stvarnosti digitalnim lažima

Već se pojavljuju primjeri koji uznemiruju stručnjake i javnost. Jedan od problematičnijih slučajeva prikazuje lažni televizijski izvještaj gdje voditelj vijesti s Pentagonom u pozadini objavljuje: "Hitne vijesti, ministar obrane Pete Hegseth preminuo je nakon što je popio cijelu litru votke zbog oklade s RFK-om." Ovakvi snimci mogu lako zavariti gledatelje jer izgledaju poput legitimnih televizijskih izvještaja. Drugi viralni primjeri uključuju britanskog voditelja vijesti koji objavljuje izvještaj novinara koji najavljuje da su "mačke preplavile Buckingham palaču."

Granica između stvarnog i umjetnog 

Ovakvi primjeri govore u prilog onima koji strahuju od zloupotrebe umjetne inteligencije i imaju osjećaj da je ovo trenutak kada prestajemo moći razlikovati stvarno od umjetne inteligencije. Veo 3 videozapisi koji se dijele na internetu zadivljuju gledatelje svojom stvarnošću, ali ih također plaši jer su stvarnost i laž postale zamućene. Bez sumnje, Veo videozapisi mogu prevariti većinu ljudi.

Korisnici društvenih mreža već aktivno koriste Veo 3 za stvaranje raznolikog sadržaja, uključujući filmske likove i animirane crtane filmove, a sve to sa zvučnom podlogom koja često nadilazi ono što je korisnik zaista zatražio. Model ne samo da generira stvarnu animaciju usklađivanja usana već autonomno dodaje ambijent, zvučne učinke, pa čak i složene dijaloge.

Posebno zabrinjavajući je fenomen koji se naziva "zvučna AI halucinacija". Portal 404 Media otkrio je da je Veo 3 generirao istu dosadnu šalu za nekoliko korisnika koji su tražili da stvori videozapis čovjeka koji izvodi stand-up komediju. To sugerira da model ne samo da stvara zvuk na temelju uputa već povlači elemente iz svoje obuke koji mogu uključivati zaštićeni sadržaj.

Sigurnosne mjere pokazuju se nedostatnima

Google koristi vlastitu SynthID watermarking tehnologiju za ugrađivanje nevidljivih oznaka u kadrove koje Veo 3 generira, no ove mjere pokazuju se nedostatnima za sprječavanje zlouporabe. Troškovi korištenja od 0,75 dolara po sekundi i AI Ultra pretplata od 249,99 dolara mjesečno ograničavaju pristup, ali ne sprječavaju one s dovoljno financijskih sredstava da stvaraju sofisticirane dezinformacije.

Stručnjaci za dezinformacije upozoravaju da trenutne regulatorne strukture nisu spremne za ovakav tehnološki skok. Paradoksalno, dok Google pozicionira Veo 3 kao alat za kreatore i filmaše, stvarnost pokazuje da ga korisnici koriste za stvaranje sadržaja koji može potkopati povjerenje u sve digitalne medije.