Tekst generiran ChatGPT-jem bit će označen nevidljivim "vodenim žigom"
U skladu s propisima EU, OpenAI postupno uvodi sustav za označavanje teksta generiranog umjetnom inteligencijom, no objašnjava njegova značajna tehnološka ograničenja
Iz OpenAI-ja su izvijestili o početku primjene sustava za označavanje AI generiranog teksta vodenim žigom, kako bi zadovoljili zahtjeve Akta o umjetnoj inteligenciji Europske unije. Ta regulativa nalaže autorima sustava generativne umjetne inteligencije da omoguće strojno prepoznavanje tako stvorenog tekstualnog sadržaja. OpenAI je stoga uveo tehnologiju nazvanu textGrain, koja dodaje nevidljivi statistički signal u izbor riječi koje model koristi, što pak omogućuje naknadnu detekciju izvora sintetiziranog sadržaja.
Novi sustav postaje dostupan korisnicima API-ja na globalnoj razini, no po principu dobrovoljnog uključivanja (opt in), ali ostaje isključen po defaultu. U nadolazećim tjednima, pak, za korisnike iz EU će se nevidljivi vodeni žig automatski početi primjenjivati na tekstualne odgovore modela ChatGPT i Codex (kao što to već čine i konkurenti). Zahtjevi za pristup detektoru vodenog žiga u početku su otvoreni samo za odobrene istraživače i stručne organizacije radi daljnjeg procjenjivanja i poboljšanja tehnologije.
Tehnološka ograničenja
OpenAI-jeva interna evaluacija sustava textGrain pokazala je performanse koje u usporedive ili bolje od ostalih testiranih rješenja, poput Googleovog SynthID-a za tekst. Unatoč tome, visoki rezultati u idealnim uvjetima ne jamče pouzdano prepoznavanje u svakodnevnoj uporabi. Detektori se, naime, suočavaju s dvije vrste pogrešaka: lažno pozitivnim nalazima, gdje se vodeni žig prijavljuje iako ne postoji, kao i lažno negativnim nalazima, gdje prisutni vodeni žig nije prepoznat.
Detekcija je posebno otežana kod kraćih ili strože definiranih tekstova. Detektor je tako u testu identificirao vodene žigove u oko 80% odlomaka od 200 tokena, u usporedbi s oko 95% uspješnosti kod odlomaka dugih 400 tokena u sadržajima poput psihologije.
Postotak prepoznavanja znatno je niži u stručnim područjima poput matematike zbog manje fleksibilnosti u izboru riječi, a bitno je dodati i da naknadno uređivanje teksta oslabljuje signal. U testu dugom 400 tokena, zamjena 10% riječi sinonimima smanjila je detekciju s 92% na 66%, dok je zamjena 25% riječi smanjila točnost detekcije na svega 17%.
Iz OpenAI-ja stoga ističu da vodeni žig pruža samo ograničen signal o ulozi sustava u stvaranju teksta te ne pruža uvid u opseg ljudskog doprinosa, uređivanja ili kreativnosti. Vodeni žig ne utvrđuje vlasništvo, autorska prava, zakonitost korištenja niti odgovornost za sadržaj. Također, ne povezuje tekst s konkretnim korisnikom, računom ili upitom i ne jamči točnost informacija iz teksta. Najavili su i da planiraju objaviti izvorni kod tehnologije textGrain kako bi omogućili njezin daljnji razvoj u zajednici.