Nakon što je istraga Guardiana otkrila da Googleovi AI sažeci (AI Overviews) nude zavaravajuće informacije kao odgovore na određene upite vezane za zdravlje, čini se da je tvrtka uklonila te sažetke za neke od spornih pretraga.

Primjerice, Guardian je prvotno izvijestio da su korisnici koji su pitali 'koji je normalan raspon za krvne testove jetre' dobivali brojeve koji nisu uzimali u obzir ključne faktore kao što su nacionalnost, spol, etnička pripadnost ili dob. To je moglo navesti ljude da pogrešno zaključe kako su njihovi nalazi uredni, iako to možda nije bio slučaj.

Sada, kako navodi Guardian, AI sažeci su uklonjeni za rezultate pretrage "koji je normalan raspon za krvne testove jetre" i "koji je normalan raspon za testove funkcije jetre". Međutim, utvrđeno je da su varijacije tih upita, poput "lft referentni raspon" ili "lft test referentni raspon", i dalje mogle generirati sažetke stvorene umjetnom inteligencijom. Zanimljivo je da prilikom kasnijih provjera čak ni te varijacije upita nisu prikazivale AI sažetke. U nekoliko slučajeva, prvi rezultat pretrage bio je upravo Guardianov članak o njihovom uklanjanju.

Glasnogovornik Googlea izjavio je za Guardian da tvrtka "ne komentira pojedinačna uklanjanja unutar Pretraživanja", ali da radi na "širokim poboljšanjima". Također je dodao da je interni tim kliničara pregledao upite koje je istaknuo Guardian i utvrdio da "u mnogim slučajevima informacije nisu bile netočne te su bile potkrijepljene visokokvalitetnim web stranicama", navodi TechCrunch. Prošle je godine tvrtka najavila nove značajke usmjerene na poboljšanje Google pretraživanja za slučajeve korištenja u zdravstvu, uključujući poboljšane sažetke i AI modele usmjerene na zdravlje.

Vanessa Hebditch, direktorica komunikacija i politike u British Liver Trustu, rekla je za Guardian da je uklanjanje "izvrsna vijest", ali je dodala: "Naša veća briga u vezi sa svim ovim jest da se radi o kozmetičkom popravljanju pojedinačnog rezultata pretrage. Google može jednostavno isključiti AI sažetke za taj jedan upit, ali to ne rješava veći problem korištenja AI sažetaka za zdravstvene teme."

Čini se da, iako je Google brzo reagirao na konkretnu kritiku, temeljni problem pouzdanosti umjetne inteligencije u pružanju osjetljivih medicinskih informacija i dalje ostaje otvoren. Iako je uklanjanje nekoliko problematičnih odgovora korak u pravom smjeru, stručnjaci upozoravaju da je potrebna sustavna promjena u pristupu kako bi se izbjegli potencijalno opasni savjeti u budućnosti.