Europska komisija ovoga je tjedna predložila nova pravila i mjere povezane s tehnologijama umjetne inteligencije. Cilj im je, kažu, da Europa postane svjetski predvodnik u pouzdanoj umjetnoj inteligenciji. Prvi pravni okvir za umjetnu inteligenciju bit će jamstvo sigurnosti i poštovanja temeljnih prava ljudi i poduzeća te će u cijeloj Uniji povećati korištenje umjetne inteligencije i ulaganja i inovacije u tom području, smatraju u Komisiji.

Podići povjerenje ljudi u AI

Najavljena Uredba o umjetnoj inteligenciji Europljanima će biti jamstvo povjerenja u ono što umjetna inteligencija nudi. Pravilima će se obuhvatiti specifični rizici koje donose sustavi umjetne inteligencije te će se postaviti najviši svjetski standardi. U koordiniranom planu u glavnim se crtama iznose promjene u politici i ulaganja potrebna u državama članicama da bi se učvrstio vodeći položaj Europe u razvoju antropocentrične, održive, sigurne, uključive i pouzdane umjetne inteligencije. U te svrhe osnovat će se i Europski odbor za umjetnu inteligenciju.

Nova će se pravila izravno primjenjivati na isti način u svim državama članicama na temelju definicije umjetne inteligencije koja je prilagođena budućim okolnostima. U njihovoj je izradi korišten pristup koji se temelji na riziku, pa se tako primjene umjetne inteligencije dijele u nekoliko skupina, kako slijedi.

Neprihvatljiv rizik

Sustavi koji se smatraju jasnom prijetnjom sigurnosti, sredstvima za život i pravima ljudi bit će zabranjeni. To obuhvaća sustave ili aplikacije umjetne inteligencije koji manipuliraju korisnikovim ponašanjem kako bi zaobišli njegovu volju (npr. igračke s glasovnom pomoći koje potiču opasno ponašanje maloljetnika) i sustave koji državama omogućuju "društveno vrednovanje", tj. ocjenjivanje građana.

Visok rizik

Visokorizični AI sustavi obuhvaćaju tehnologiju koja se upotrebljava u kritičnoj infrastrukturi, prometu, obrazovanju, sigurnosnim dijelovima proizvoda, zapošljavanju, osnovnim privatnim i javnim uslugama (npr. ocjenjivanje kreditne sposobnosti), provođenju zakona, upravljanju migracijama, azilom i granicama (npr. provjera vjerodostojnosti putnih isprava) te u pravosuđu i demokratskim procesima.

Za visokorizične AI sustave vrijedit će stroge obveze koje moraju ispuniti prije stavljanja na tržište. Morat će se precizno definirati rizici, osigurati visoka kvaliteta ulaznih podataka kako bi se smanjili rizici i diskriminatorni rezultati, a morat će na snazi biti i odgovarajuće mjere ljudskog nadzora. Ovakvim strogim uvjetima podliježu svi sustavi daljinske biometrijske identifikacije, tj. prepoznavanja lica u javnom prostoru u stvarnom vremenu, što je u načelu zabranjeno.

Ograničen rizik

Kao sustavi umjetne inteligencije s posebnim obvezama u pogledu transparentnosti bit će klasificirani chatbotovi. Njihovi korisnici trebali bi, primjerice, unaprijed znati da je riječ o interakciji sa strojem kako bi mogli utemeljeno odlučiti žele li se upustiti u nju ili odustati.

Minimalan rizik

Prijedlog Komisije omogućava neograničeno korištenje umjetne inteligencije u videoigrama ili filtrima za neželjenu e-poštu. U tu kategoriju spada većina sustava umjetne inteligencije. Nacrt uredbe ih ne regulira jer su ti sustavi slabo ili nimalo rizični za prava i sigurnost građana.