Umjetna inteligencija

Kineska umjetna inteligencija podiže optužnice s više od 97% točnosti

Mladen Smrekar četvrtak, 30. prosinca 2021. u 12:49

U Kini bi vas AI mogla poslati u zatvor. Tamošnji istraživači razvili su stroj, Sustav 206, koji vas može optužiti za zločine uz pomoć umjetne inteligencije

U Kini umjetna inteligencija preuzima sve važniju ulogu u tamošnjem pravosudnom sustavu. AI "tužitelj" može podignuti optužnicu s više od 97 posto točnosti, na temelju usmenog opisa slučaja, piše South China Morning Post. Stroj koji bi mogao promijeniti tamošnje pravosuđe izradilo je i testiralo najveće i najprometnije okružno tužiteljstvo u zemlji, ono u Šangaju.

Mogućnosti Sustava 206

Ova tehnologija mogla bi rasteretiti tužitelje i omogućiti im da se usredotoče na teže slučajeve, kaže profesor Shi Yong, ravnatelj laboratorija za upravljanje velikim podacima i znanjem Kineske akademije znanosti i vodećem znanstveniku projekta, opisanom u časopisu Management Review.

Kineske vlasti umjetnu inteligenciju koriste kako bi poboljšale učinkovitost, smanjile korupciju i ojačale kontrolu
Kineske vlasti umjetnu inteligenciju koriste kako bi poboljšale učinkovitost, smanjile korupciju i ojačale kontrolu

Neke zemlje poput Njemačke već koriste tehnologiju umjetne inteligencije u prepoznavanju slika i digitalnoj forenzici kako bi povećale brzinu i točnost obrade predmeta; kineski tužitelji umjetnu inteligenciju koriste od 2016. Najčešće je riječ o AI alatu poznatom kao "Sustav 206". Ovaj alat može procijeniti snagu dokaza, uvjete za uhićenje i koliko se osumnjičenik smatra opasnim za javnost.


No, svi postojeći alati umjetne inteligencije imaju ograničenu ulogu budući da zasad ne sudjeluju u procesu donošenja odluka o podnošenju optužbi i predlaganju kazni, tvrdi Shi.


Sustav 206 može procijeniti snagu dokaza, uvjete za uhićenje i koliko se osumnjičenik smatra opasnim za okolinu
Sustav 206 može procijeniti snagu dokaza, uvjete za uhićenje i koliko se osumnjičenik smatra opasnim za okolinu

Donošenje takvih odluka zahtijevalo bi stroj za obavljanje kompliciranijih zadataka, poput identificiranja i uklanjanja spisa koji nisu relevantni za slučaj, bez izdvajanja korisnih informacija i pretvaranja složenog jezika u format koji računalo može dokučiti.

Tužitelj iz stolnog računala

AI tužitelj kojeg je razvio Shijev tim može raditi na stolnom računalu. Za svakog osumnjičenika optužnica se podnosi na temelju 1000 karakteristika dobivenih iz opisa slučaja koji su stvorili ljudi, a procjena dokaza prepušta sustavu 206.


Stroj je obučen na više od 17.000 slučajeva između 2015. i 2020. godine. Zasad može identificirati i podnijeti tužbu za osam najčešćih kaznenih djela u Šangaju koji uključuju prijevare s kreditnim karticama, kockanje, opasnu vožnju, namjerno ozljeđivanje, ometanje službenika na dužnosti, krađe, prijevare te "izazivanje nevolja", vrlo široko shvaćene optužbe koja se često koristi za gušenje bilo kakvih vrsta protesta.


Shi kaže su da će njihov AI tužitelj nakon skore nadogradnje postati još moćniji alat pravde; moći će prepoznati manje uobičajena kaznena djela i podnijeti više optužnica protiv jednog osumnjičenika. No, nisu svi presretni uvođenjem umjetne inteligencije u pravosuđe. 

Točnost od 97 posto može biti visoka s tehnološke točke gledišta, ali uvijek će postojati šansa za pogrešku, upozoravaju pravnici
Točnost od 97 posto može biti visoka s tehnološke točke gledišta, ali uvijek će postojati šansa za pogrešku, upozoravaju pravnici

"Točnost od 97 posto može biti visoka s tehnološke točke gledišta, ali uvijek će postojati šansa za pogrešku", rekao je novinarima South China Morning Posta neimenovani tužitelj iz Guangzhoua. Izravno sudjelovanje umjetne inteligencije u donošenju odluka moglo bi utjecati na autonomiju ljudskog tužitelja, a oni ne žele da im se informatičari miješaju u pravne presude.

Loši primjeri iz Amerike 

Preko oceana, u SAD-u, još uvijek uče na vlastitim pogreškama s forenzičkim algoritmima koji su nevine ljude stavljali iza rešetaka. Stoga se tamo gura prijedlog zakona koji ima za cilj osigurati zaštitu građanskih prava optuženih u kaznenim predmetima i uspostaviti najbolje prakse za korištenje forenzičkog softvera umjetne inteligencije. 

Alat koji su koristili u američkom pravosuđu pokazao se manjkavim jer je odreda krivo procjenjivao opasnost od ponavljanja djela prema boji kože optuženika. U stvarnosti se događalo upravo suprotno
Alat koji su koristili u američkom pravosuđu pokazao se manjkavim jer je odreda krivo procjenjivao opasnost od ponavljanja djela prema boji kože optuženika. U stvarnosti se događalo upravo suprotno

"Interesi vlasnika softvera i poslovne tajne ne mogu biti svetije od sudskih prava optuženih", rekli su svojedobno pobornici kontrole primjene umjetne inteligencije u pravosuđu za Interesting Engineering.

Bez obzira na sve nesavršenosti, kineske vlasti nastavljaju koristiti umjetnu inteligenciju kako bi poboljšale učinkovitost, smanjile korupciju i ojačala kontrolu. Tamošnji sudovi umjetnu inteligenciju koriste kako bi pomogli sucima u procesuiranju spisa i donošenju odluka poput prihvaćanja ili odbijanja žalbe. AI tehnologiju usvojila je i većina kineskih zatvora kako bi pomoću nje pratili fizičko i mentalno stanje zatvorenika i tako smanjili nasilje iza rešetaka.