Italija je pokrenula istragu protiv DeepSeeka zbog problema s dezinformacijama i halucinacijama
Talijanska antitrust agencija AGCM pokrenula je istragu protiv kineske AI kompanije DeepSeek jer ne upozorava korisnike dovoljno jasno da njihov chatbot može davati netočne informacije
Istraga se fokusira na to da DeepSeek nije pružio dovoljno jasna upozorenja o takozvanim AI "halucinacijama" - situacijama kada model proizvodi netočan ili izmišljen sadržaj kao odgovor na korisničke upite. AGCM navodi da upozorenja nisu bila "dovoljno jasna, neposredna i razumljiva".
Nije prva istraga
Ova akcija nije prva regulatorna intervencija protiv DeepSeeka u Italiji. U veljači ove godine talijanska agencija za zaštitu podataka Garante naRedila je blokiranje pristupa DeepSeek chatbotu za talijanske korisnike. Razlog je bio nedovoljna suradnja kompanije oko pitanja privatnosti i rukovanja podacima. Garante je ocijenio da su DeepSeekovi odgovori na upite o prikupljanju, spremanju i korištenju podataka bili "potpuno nedostatni", što je dovelo do trenutnog ograničavanja obrade podataka talijanskih korisnika.
Kompanija je tijekom komunikacije s regulatorima tvrdila da ne posluje u Italiji i da se europsko zakonodavstvo ne odnosi na njihove aktivnosti. Talijanski regulatori nisu prihvatili takav stav.
Zabrinutost oko točnosti rezultata
Istraga AGCM-a ukazuje na sve veću regulatornu pozornost usmjerenu prema pouzdanosti i transparentnosti AI sustava, osobito kako se njihova uporaba širi. DeepSeek modeli, poput R1 i V3, postali su popularni, a aplikacija kompanije nadmašila je ChatGPT po broju preuzimanja u SAD-u ranije ove godine.
Međutim, zabrinutost oko točnosti rezultata raste. Nedavna analiza tvrtke NewsGuard pokazala je da DeepSeek chatbot nije pružio točne informacije o vijestima i informativnim temama u 83 posto slučajeva. To ga stavlja ispod većine zapadnih konkurenata po pitanju pouzdanosti. NewsGuard je testirao različite chatbotove nizom faktičnih i lažnih tvrdnji, što je otkrilo posebnu sklonost DeepSeeka generiranju dezinformacija.
"Potkopavaju povjerenje korisnika"
Talijanska istraga može rezultirati novčanim kaznama ili ograničenjima DeepSeek usluga, što bi moglo utjecati na ekspanziju kompanije u Europi. AGCM je u svojoj izjavi naglasio važnost jasne komunikacije s potrošačima, upozorivši da DeepSeekove prakse "potkopavaju povjerenje korisnika" zbog neadekvatnog otkrivanja rizika netočnih rezultata.
