Ljudi ili strojevi: tko je pravedniji?
Strojno učenje pomaže u odobravanju kredita, davanju posla, odlučuje i tko će u zatvor. Ali kad je riječ o odlukama koje nam mogu promijeniti život, mogu li računala donijeti poštenu odluku?
Njemačka studija, objavljena u časopisu Patterns, pokazala je kako, uz ljudski nadzor, odluka računala može biti pravedna kao i odluka koju primarno donose ljudi.
Više od tehnologije
"Veliki dio rasprava o pravednosti u strojnom učenju fokusiran je na tehnička rješenja, poput toga kako popraviti nepoštene algoritme i kako sustave učiniti poštenima", kažu istraživači Sveučilišta u Mannheimu koji su u potrazi za odgovorom otišli korak dalje pa su se zapitali što ljudi misle da je pošteno?
"Ne radi se samo o razvoju algoritama. Mora ih prihvatiti društvo i moraju zadovoljiti normativna uvjerenja u stvarnom svijetu", tvrde istraživači.
Razumijevanje pravednosti
Automatizirano donošenje odluka, gdje zaključak donosi isključivo računalo, ističe se u analizi velikih skupova podataka radi otkrivanja obrazaca. Računala se često smatraju objektivnim i neutralnim u usporedbi s ljudima na čiju prosudbu mogu utjecati razne pristranosti.
Štoviše, pristranost se može uvući i u računalne sustave dok uče iz podataka koji odražavaju diskriminatorne obrasce u našem svijetu. Razumijevanje pravednosti u računalnim i ljudskim odlukama presudno je za izgradnju pravednijeg društva.
Hipotetski scenariji
Kako bi razumjeli što ljudi smatraju pravednim u vezi s automatiziranim odlučivanjem, istraživači su ispitali 3930 pojedinaca u Njemačkoj. Ponudili su im hipotetske scenarije vezane uz banke, razne poslove, zatvore i nezaposlenost.
Dakako, pokazalo se kako nitko ne favorizira potpuno automatizirano donošenje odluka. No, uz ljudski nadzor nad automatiziranim odlukama, raste i razina percipirane pravednosti. Jednostavno, ljudi odluke koje donose strojevi doživljavaju pravednijima kada su u proces odlučivanja uključeni i ljudi.
Bitan je kontekst
Ljudi više brine pravednost kad se odluke odnose na sustav kaznenog pravosuđa ili izglede za posao, gdje su ulozi veći. Odluke koje mogu dovesti do pozitivnih ishoda, ljudi smatraju pravednijima od negativnih. Sustavi koji u procesu odlučivanja dodatne, nepovezane podatke, crpe s interneta smatrani su manje poštenima, što potvrđuje važnost transparentnosti podataka i privatnosti.
Bitan je kontekst: automatizirani sustavi donošenja odluka moraju biti pažljivo dizajnirani, zaključuju istraživači koji se u budućnosti po istom principu žele pozabaviti pitanjima pravednosti raspodjele resursa u zajednici.
