Najmnogoljudnija zemlja na svijetu, Indija provodi jedan od najvećih svjetskih programa koji prehranjuje oko 60 posto njezinog stanovništva. Od pandemije kovida nacionalna vlada je svaki mjesec besplatno osigurala pet kilograma riže, pšenice i žitarica za 800 milijuna ljudi. Prije toga su najsiromašnije obitelji imale pravo na primanje žitarica po subvencioniranoj cijeni od jedne rupije za kilogram riže. Država također provodi mjesečne mirovinske programe za starije osobe ili udovice bez prihoda, pružajući im mjesečnu financijsku pomoć do 33 dolara.

Algoritam briše korisnike

U prošlosti su vladini službenici morali osobno identificirati i odobriti korisnike ovih programa, što je uključivalo fizičku provjeru dokumenata i obilazak terena. Međutim, posljednjih godina uvedeni su algoritmi koji identificiraju pojedince koji prijevarom žele doći do povlastica, ili milostinje, kako vam drago, javlja The Reporters' Collective.

U južnoj državi Telangana, na primjer, vladini službenici dobili su algoritam koji je stvorio sveobuhvatne profile pojedinaca prikupljanjem podataka iz čak 30 baza podataka. Sustav je prvotno osmišljen kako bi pomogao regionalnoj policiji u identificiranju kriminalaca, ali je kasnije razvijen za identifikaciju podnositelja lažnih zahtjeva. Na temelju podataka prikupljenih iz više baza podataka, čak 1,9 milijuna kartica uklonjeno je s popisa korisnika. No, vlada je ponovnom analizom više od 200.000 kartica otkrila da je pogrešno uklonjeno njih čak 15.000.

Dokaži da si živ

U lipnju 2020. sjeverna država Haryana počela je koristiti novi algoritamski sustav za prikupljanje informacija o obiteljima koje traže socijalnu pomoć.

Na temelju prikupljenih podataka o prihodu, dobi, zaposlenju itd., svaka obitelj dobiva osmoznamenkasti jedinstveni ID, koji je kasnije postao obavezan za sve programe socijalne skrbi. Prema podacima državne vlade, u sljedeće tri godine obustavljeno je više od 300.000 mirovina zbog smrti tražitelja. Poslije se na velikom uzorku otkrilo da je čak 70 posto takvih slučajeva bilo krivo označeno.

Profiliranje pojedinaca nije tehnički protuzakonito jer Indija nema zakone o privatnosti. Štoviše, u slučaju propusta, teret dokazivanja leži na korisniku. Zbog toga je lani  jedan 102-godišnjak organizirao svadbenu povorku kako bi službenicima dokazao da je živ.

Vraćanje statusa

Vraćanje statusa u bazi podataka može potrajati mjesecima ili čak godinama, tijekom kojih podnositelji zahtjeva gube pristup socijalnim beneficijama.

Iako su algoritmi pomogli u uklanjanju lažnih korisnika iz sustava, griješili su još više, a ceh plaćaju najsiromašniji i najranjiviji dijelovi društva, navodi se u istraživanju koje podupire AI Accountability Network Pulitzer Centra.