Stack Overflow privremeno zabranio odgovore generirane umjetnom inteligencijom
Nakon što je prošlog tjedna organizacija OpenAI otvorila pristup svojem novom jezičnom modelu Stack Overflow je preplavljen odgovorima koji navodno "imaju visoku stopu netočnosti"
ChatGPT olakšava korisnicima generiranje odgovora i preplavljuje Stack Overflow odgovorima koji se na prvi pogled čine točnima, ali su često, nakon detaljnog ispitivanja, pogrešni.
Moderatori u objavi pojašnjavaju da je zabrana privremena i da će konačna odluka biti donesena u budućnosti nakon konzultacija sa zajednicom.
"Ako se pokaže da je korisnik koristio ChatGPT nakon objave ove privremene odluke, biti će nametnute sankcije kako bi se spriječilo da korisnici nastave objavljivati takav sadržaj, čak i ako bi postovi inače bili prihvatljivi.”
Jezični modeli koje koristi ChatGPT uče analizom uzoraka velike količine sadržaja pa iako daju zanimljive rezultate koji su u vrlo kratko vrijeme oduševili korisnike ipak imaju i određene nedostatke. Najveći je upravo generiranje netočnih odgovora.
U slučaju Stack Overflowa, procijenjeno je da je rizik od obmanjivanja korisnika jednostavno previsok.
