Umjetna inteligencija pogađa koje ste rase na temelju vaših rendgenskih snimaka

Znanstvenici trenutno nisu sigurni zašto njihov UI sustav tako dobro prepoznaje rase na slikama i pozivaju na oprez 

Mladen Smrekar petak, 20. svibnja 2022. u 18:10

Modeli dubokog učenja koji se temelje na umjetnoj inteligenciji mogu identificirati nečiju rasu samo na temelju njihovih X-zraka, otkrilo je novo istraživanje. Ovi nalazi ujedno otvaraju neka zabrinjavajuća pitanja o ulozi umjetne inteligencije u medicinskoj dijagnozi, procjeni i liječenju: može li računalni softver nenamjerno primijeniti rasnu pristranost prilikom proučavanja slika?

Iznenađujuće precizno

Nakon što su trenirali umjetnu inteligenciju koristeći stotine tisuća postojećih rendgenskih slika označenih detaljima rase pacijenta, istraživača iz SAD-a, Kanade i Tajvana testirali su sustav na rendgenskim slikama koje je računalni softver vidio prvi put i o njima nije imao dodatnih informacija.

Uzorci slika nakon korištenja nisko i visoko propusnih filtara u skupu podataka MXR
Uzorci slika nakon korištenja nisko i visoko propusnih filtara u skupu podataka MXR

Pokazalo se kako je UI mogao predvidjeti rasu pacijenta s iznenađujućom točnošću, čak i kad je bila riječ o slikama različitih ljudi iste dobi i istog spola. U nekim slučajevima sustav je bio točan čak 90 posto.


Znanost nema odgovor

Znanstvenici trenutno nisu sigurni zašto njihov UI sustav tako dobro prepoznaje rase na slikama koje ne sadrže takve informacije. Dapače, ovaj model se iznenađujuće dobro snalazi čak i kad mu se zataje podaci o gustoći kostiju ili se sken fokusira na mali dio tijela. Moguće je, nagađaju istraživači, da sustav pronalazi neke, znanosti trenutno nepoznate znakove melanina, pigmenta koji koži daje boju.


UI radi što UI vidi

Ovo istraživanje nadovezuje se na rezultate prethodne studije koja je pokazala kako umjetna inteligencija na skenovima rendgenskih snimaka češće previđa znakove bolesti kod crnaca. Kako bi se to spriječilo, znanstvenici prvo moraju razumjeti zašto se to uopće događa.

Učinak na performanse modela dodavanjsm niskopropusnog i visokopropusnog filtra
Učinak na performanse modela dodavanjsm niskopropusnog i visokopropusnog filtra

"Namjeravali smo provesti sveobuhvatnu procjenu sposobnosti umjetne inteligencije da prepozna pacijentov rasni identitet iz medicinskih slika", pišu znanstvenici u radu objavljenom u The Lancet Digital Health. "Pokazujemo da se standardni modeli dubokog učenja umjetne inteligencije mogu osposobiti za predviđanje rase na temelju medicinskih slika."


Po svojoj prirodi, UI oponaša ljudsko razmišljanje kako bi brzo uočio obrasce u podacima. Ipak, to također znači da nesvjesno može podleći istim vrstama predrasuda. Što je još gore, njihova složenost otežava raspetljavanje predrasuda koje smo utkali u njih.


Kopiranje predrasuda

Istraživanje je ujedno novi dokaz da sustavi umjetne inteligencije često mogu odražavati ljudske pristranosti i predrasude, svejedno bila riječ o rasizmu, seksizmu ili nečem drugom. Iskrivljeni podaci u treningu mogu dovesti do iskrivljenih rezultata, što ih čini beskorisnima, upozoravaju istraživači.

Ovaj model se iznenađujuće dobro snalazi čak i kad mu se zataje podaci o gustoći kostiju ili se sken fokusira na mali dio tijela
Ovaj model se iznenađujuće dobro snalazi čak i kad mu se zataje podaci o gustoći kostiju ili se sken fokusira na mali dio tijela

Ne pomaže ni činjenica da umjetna inteligencija pritom može obraditi puno više podataka u puno manje vremena nego ljudi, od tehnika otkrivanja bolesti do modela klimatskih promjena.

"Moramo napraviti stanku", kažu istraživači. "Ne smijemo žuriti s unošenjem algoritama u bolnice i klinike dok ne budemo sigurni da ne donose rasističke ili seksističke odluke."



Subwoofer s iBX tehnologijom

KEF Kube 8b

Isporuka impresivne glazbe i zvuka kućnog kina, aktivni subwoofer od 8", pojačalo snage 300W u D klasi, 34 do 140 Hz, 105dB.

4.499 kn Kupi

BT naglavne slušalice

BOSE QuietComfort 45

Zvuk visoke vjernosti, Acoustic noise cancelling, USB-C kabel za punjenje, Bose Music aplikacija, Aware Mode, podesivi EQ, SimpleSync™, do 24 sata reprodukcije.

2.529 kn 2.799 kn Kupi