Europski parlament želi zabraniti kontroverzne tehnologije umjetne inteligencije
U borbi protiv diskriminacije i u cilju osiguravanja prava na privatnost, zastupnici Europskog parlamenta izglasali su rezoluciju koja traži strogi nadzor nad umjetnom inteligencijom koju koristi policija
Automatizirani sustavi umjetne inteligencije koji rade na prepoznavanju lica ne bi trebali biti korišteni za nadzor granica i javnih površina, a privatne baze podataka o licima građana trebale bi biti zabranjene – sukus je to rezolucije Europskog parlamenta koja je većinom glasova prihvaćena ovoga tjedna.
Reguliranje AI sustava
Eurozastupnici su ukazali na rizike od pristranosti algoritama umjetne inteligencije i naglasili kako je nužno da oni budu pod strogim ljudskim nadzorom kako bi se spriječila diskriminacija ljudi. Primarno se to odnosi na upotrebe AI sustava u policijske svrhe, za nadzor javnih površina ili državnih granica.
"Ljudski operateri morali bi uvijek donositi konačne odluke, a osobe koje sustavi umjetne inteligencije nadziru moraju imati pristup pravnom lijeku", stoji u rezoluciji Europskog parlamenta. Posebno je zabrinjavajuće što sustavi prepoznavanja lica temeljeni na umjetnoj inteligenciji već sada krivo identificiraju pripadnike etničkih manjinskih skupina, LGBTI osobe, starije i žene. Kako bi se njihova temeljna ljudska prava poštivala, nužno je da takvi algoritmi budu transparentni i dovoljno dokumentirani. Ako je moguće, vlasti b trebale koristiti open source rješenja gdje god je moguće.
"Nije upitno mogu li sustavi umjetne inteligencije dovesti do rasno pristranih i diskriminirajućih ishoda. Znamo da je to slučaj", rekao je izvjestitelj Petar Vitanov.
Zabrana kontroverzne tehnologije
Europarlamentarci su ovom rezolucijom pozvali i na zaštitu privatnosti i dostojanstva stanovništva, pa su zatražili i trajnu zabranu automatiziranih sustava za prepoznavanje lica u javnim prostorima koje koriste policije. Ljude bi trebalo pratiti samo onda kada su osumnjičeni za zločin, a ne masovno. K tome, trebalo bi zabraniti i privatne baze podataka s ljudskim licima, poput kontroverznog sustava Clearview AI, koji se već uvelike koristi.
Zabrana bi trebala uključiti i policijske akcije temeljene na podacima o ponašanju osoba, koje bi imale za cilj spriječiti neko buduće kazneno djelo (predictive policing, što je nekada bilo tema znanstvene fantastike, a danas nije daleko od stvarnosti). Kad smo već kod sci-fi tehnologija, Europski parlament "o istom trošku" poziva i da se zabrani bilo kakva implementacija ocjenjivanja građana na temelju njihovog ponašanja, koja bi imala za cilj rangirati ih i dodjeljivati im statuse i ocjene, temeljene na dobrom vladanju ili osobnosti (o čemu se već govori u Kini).
