ChatGPT citira hakirane stranice i promovira online kockarnice
Istraživanja pokazuju kako se AI alati oslanjaju na izvore s hakiranih ili isteklih domena, koje su prenamijenjene za promociju kockanja

ChatGPT ubrzano postaje nezaobilazan alat za traženje preporuka, od online usluga do lokalnih tvrtki. Međutim, kako navodi portal TechRadar, nova saznanja pokazuju da se njegovi odgovori generirani umjetnom inteligencijom ne temelje uvijek na izvorima kojima se može vjerovati.
Zapravo, neki od tih izvora dolaze s web stranica koje su ili hakirane ili su im domene istekle pa su prenamijenjene, najčešće s ciljem promoviranja online kasina i platformi za kockanje. Proteklih nekoliko mjeseci, James Brockbank, osnivač agencije Digitaloft, dokumentirao je koliko je ovaj problem raširen, otkrivajući primjere u kojima ChatGPT citira sadržaj sa stranica koje su očito manipulirane.
U jednom od primjera, web stranica aktivnog odvjetničkog ureda imala je skrivene podstranice koje su preporučivale online kasina u Ujedinjenom Kraljevstvu. U drugom slučaju, stranica koja je nekoć pripadala koaliciji mladih Ujedinjenih naroda transformirana je u platformu koja promovira kasina.
Uzorak se nastavio s isteklim domenama, uključujući i onu koja je pripadala sada ugašenoj umjetničkoj dobrotvornoj organizaciji, a koju su u prošlosti citirali medijski divovi poput BBC-ja, CNN-a i Bloomberga. Upravo je tu domenu, koja sada promovira sadržaj o kockanju, ChatGPT naveo kao izvor u odgovoru na upit o kasinima bez depozita.
Ove taktike iskorištavaju slabosti u načinu na koji ChatGPT odabire i citira izvore. Za razliku od tradicionalnih tražilica, ovaj AI model nema ugrađene mehanizme za provjeru legitimnosti vlasništva stranice ili njezine uredničke namjere. Čini se da ChatGPT daje prednost novijem sadržaju, ali istovremeno pripisuje autoritet na temelju stare reputacije domene, čak i kada novi sadržaj nema nikakve veze s prijašnjim. To otvara vrata zlonamjernim akterima da manipuliraju vidljivošću na načine koji nemaju veze s kredibilitetom.
Zaključak je jasan. Korisnici koji se obraćaju ChatGPT-ju za preporuke ne bi trebali olako pretpostaviti da je svaki odgovor potkrijepljen vjerodostojnim izvorom. Brza provjera citirane stranice, njezine povijesti, vlasništva i relevantnosti može uvelike pomoći u izbjegavanju obmanjujućih ili čak štetnih sugestija.