Sustav AI pomoćnika svojevoljno "rickrollao" klijente
Kompanija koja se bavi izradom virtualne pomoćnice Lindy naišla je na neobičan i zabavan oblik halucinacije svojeg modela. Umjesto odgovora, korisnicima je slao šaljivi pogrešni link
Halucinacije jezičnih modela pojavljuju se kod vjerojatno svih postojećih takvih AI sustava, a da umjetna inteligencija nekad može biti i duhovita, uvjerili smo se već u nekoliko navrata. Iako to znamo, ponekad će nas ti sustavi i dalje iznenaditi, kao što je to slučaj s virtualnom asistenticom Lindy, istoimenog startupa.
Može video? Može…
Njihov sustav može poslužiti u više zadataka, može ga se trenirati da odrađuje razne automatizirane zadaće, za koje bi inače bili zaduženi ljudi, poput odgovaranja na pitanja u službi za korisnike. Osnivač te kompanije, Flo Crivello, prije nekoliko je dana na X-u podijelio neobično iskustvo, koje je i njih začudilo, ali i zabavilo. Sustav Lindy, naime, služi i da bi svoje vlastite korisnike obučio za rad s tom platformom, pa je tako stigao i korisnički upit – jedan novi klijent tražio je video tutorial za korištenje AI asistenta.
"Pametni" AI je na to odgovorio potvrdno, sastavio pristojan e-mail s odgovorom, uključio linkove na video upute i sve se činilo savršenim, baš kako i treba biti. No, kaže Crivello, "tada sam se sjetio da mi uopće nemamo video upute". Provjerio je koje linkove je Lindy poslala korisniku i nemalo se iznenadio – jedna poveznica vodila je na pop hit Ricka Astleya iz 1987. godine, naravno, bio je to "Never Gonna Give You Up".
Rickrolling je tako iz domene ljudskog internetskog humora prešao i u AI sferu, gdje automatizirani sustavi znaju "prevariti" ljude i "prodati im foru" kad se to najmanje očekuje. Crivello je objasnio i mehanizam koji je doveo do toga – jezični modeli rade tako da predviđaju koji je najvjerojatnija sljedeća riječ ili niz u tekstu. Kad je zatražen video, najočekivaniji bi bio link na YouTube, a potom, kad već nema pravog tutoriala, pokazalo se da je najvjerojatnije da će netko nekome bez povoda poslati link upravo na "rickroll" pjesmu.
Daljnjom istragom utvrđeno je da ovo nije bio jedini takav slučaj kad se jezični model "zaigrao" s linkovima. Šef startupa poručuje da su Lindy, koja bi trebala biti ozbiljan poslovni alat, ipak naučili da to više ne čini.
