Modeli dubokog učenja koji se temelje na umjetnoj inteligenciji mogu identificirati nečiju rasu samo na temelju njihovih X-zraka, otkrilo je novo istraživanje. Ovi nalazi ujedno otvaraju neka zabrinjavajuća pitanja o ulozi umjetne inteligencije u medicinskoj dijagnozi, procjeni i liječenju: može li računalni softver nenamjerno primijeniti rasnu pristranost prilikom proučavanja slika?

Iznenađujuće precizno

Nakon što su trenirali umjetnu inteligenciju koristeći stotine tisuća postojećih rendgenskih slika označenih detaljima rase pacijenta, istraživača iz SAD-a, Kanade i Tajvana testirali su sustav na rendgenskim slikama koje je računalni softver vidio prvi put i o njima nije imao dodatnih informacija.

Pokazalo se kako je UI mogao predvidjeti rasu pacijenta s iznenađujućom točnošću, čak i kad je bila riječ o slikama različitih ljudi iste dobi i istog spola. U nekim slučajevima sustav je bio točan čak 90 posto.

Znanost nema odgovor

Znanstvenici trenutno nisu sigurni zašto njihov UI sustav tako dobro prepoznaje rase na slikama koje ne sadrže takve informacije. Dapače, ovaj model se iznenađujuće dobro snalazi čak i kad mu se zataje podaci o gustoći kostiju ili se sken fokusira na mali dio tijela. Moguće je, nagađaju istraživači, da sustav pronalazi neke, znanosti trenutno nepoznate znakove melanina, pigmenta koji koži daje boju.

UI radi što UI vidi

Ovo istraživanje nadovezuje se na rezultate prethodne studije koja je pokazala kako umjetna inteligencija na skenovima rendgenskih snimaka češće previđa znakove bolesti kod crnaca. Kako bi se to spriječilo, znanstvenici prvo moraju razumjeti zašto se to uopće događa.

"Namjeravali smo provesti sveobuhvatnu procjenu sposobnosti umjetne inteligencije da prepozna pacijentov rasni identitet iz medicinskih slika", pišu znanstvenici u radu objavljenom u The Lancet Digital Health. "Pokazujemo da se standardni modeli dubokog učenja umjetne inteligencije mogu osposobiti za predviđanje rase na temelju medicinskih slika."

Po svojoj prirodi, UI oponaša ljudsko razmišljanje kako bi brzo uočio obrasce u podacima. Ipak, to također znači da nesvjesno može podleći istim vrstama predrasuda. Što je još gore, njihova složenost otežava raspetljavanje predrasuda koje smo utkali u njih.

Kopiranje predrasuda

Istraživanje je ujedno novi dokaz da sustavi umjetne inteligencije često mogu odražavati ljudske pristranosti i predrasude, svejedno bila riječ o rasizmu, seksizmu ili nečem drugom. Iskrivljeni podaci u treningu mogu dovesti do iskrivljenih rezultata, što ih čini beskorisnima, upozoravaju istraživači.

Ne pomaže ni činjenica da umjetna inteligencija pritom može obraditi puno više podataka u puno manje vremena nego ljudi, od tehnika otkrivanja bolesti do modela klimatskih promjena.

"Moramo napraviti stanku", kažu istraživači. "Ne smijemo žuriti s unošenjem algoritama u bolnice i klinike dok ne budemo sigurni da ne donose rasističke ili seksističke odluke."