Još jedan u nizu primjera o haluciniranju umjetne inteligencije dolazi ovoga puta iz američkih programerskih krugova i njihovog načina obavljanja „online podrške“.

Prema pisanju ArsTechnice početkom tjedna neimenovani programer neimenovane tvrtke koja koristi AI editor koda Cursor primijetio je da se prebacivanjem između različitih uređaja koje koristi na poslu automatski odjavljuje iz ovog sustava, što prije nije bio slučaj. Kako se radi ne samo o gnjavaži, već i o usporavanju radnog procesa, odmah je nazvao podršku Cursora gdje mu se javio „Sam“, koji je objasnio da to tako treba biti „prema novoj politici“ koja bi trebala pojačati sigurnost sustava i ograničava korištenje sustava na jedan uređaj po pretplati.

Incident je eskalirao kada je korisnik podijelio ovu informaciju na Redditu, izazvavši val pritužbi i prijetnji otkazivanjem pretplata. Mnogi korisnici su povjerovali da je ovo stvarna promjena politike i javno najavili otkazivanje pretplata jer ovakva „nova politika“ bitno osakaćuje tijek radnog procesa.

Međutim, takva politika nikad nije nije postojala, a "Sam" nije bio čovjek nego AI bot koji je izmislio ovu informaciju. Još jedan primjer gdje se AI suočen s upitom na koji ne zna odgovor umjesto jednostavnog „ne znam“ ili „ovo treba eskalirati na višu razinu podrške koju obavljaju ljudski kolege“, izmisli posve lažne informacije – proces znan kako haluciniranje umjetne inteligencije.

Srećom svega nekoliko sati kasnije ljudska podrška se i sama umiješala i priznala tri sata nakon prvotnog incidenta da tvrtka nema nikakvu sličnu politiku i da se Cursor može koristiti na više uređaja. „Ovo je netočan odgovor od AI bota za prvu liniju podrške.".

Usput, ovo je bilo prvo službeno priznanje da „Sam“ nije ljudska podrška, nego samo ljudski imenovani bot. Cursor je priznao pogrešku i ispričao se, a korisnik je dobio povrat novca. Problem je, priznali su, nastao zbog promjene u sustavu koja je trebala poboljšati sigurnost sesija.

- "Svi AI odgovori za e-mail podršku sada su jasno označeni kao takvi," dodao je. "Koristimo AI-potpomognute odgovore kao prvi filter za e-mail podršku.", kažu iz Cursora.

Incident je međutim pokrenuo i pitanja o transparentnosti, jer su mnogi korisnici, iako se radi o računalnim profesionalcima, programerima, koji bi trebali bolje razlikovati automatiziranu računalnu podršku od ljudske, ipak vjerovali da razgovaraju s čovjekom.

Iz osobnog iskustva ovdje potpisanoga s domaćeg terena, jedan web-trgovac koristi AI sustav za slanje uplata i potvrde narudžbi koji u tri odvojena slučaja web-kupnje s njihovih stranica niti jednom nije uspio sastaviti točan račun, a (jedan od bizarnijih primjera bio je nadnevak 1. 1. 1900. – Y2K bug za koji smo mislili da je riješen u cijelom svijetu prije četvrt stoljeća – čini se da ga je AI odnekud ponovo iskopao.