Zastupnici u Europskom parlamentu su u srijedu odobrili dugo pripremani Akt o umjetnoj inteligenciji, za koji tvrde da jamči sigurnost i zaštitu temeljnih prava te istodobno potiče inovacije na području te tehnologije. Pravila za umjetnu inteligenciju, koja će biti uvedena na području cijele EU, utvrđena su na temelju njezinih potencijalnih rizika. Tako se u regulativi ističu zabranjene primjene, posebna pravila za sustave visokog, srednjeg i niskog rizika, sukladno prijedlozima i političkom dogovoru s Vijećem iz prosinca prošle godine.

Zabrane za biometrijske primjene

Novim pravilima zabranjene su određene primjene umjetne inteligencije koje ugrožavaju prava građana, uključujući sustave za biometrijsku kategorizaciju temeljene na osjetljivim karakteristikama i neciljano prikupljanje prikaza lica s interneta ili iz nadzornih snimaka radi stvaranja baza podataka za prepoznavanje lica.

Zabranjuje se i prepoznavanje emocija na radnome mjestu i u školama, vrednovanje građana, prognostički rad policije (kad se temelji isključivo na izradi profila pojedinaca ili procjeni njihovih osobina) te umjetna inteligencija koja utječe na ljudsko ponašanje ili iskorištava ranjivost pojedinaca.

Sustavi visokog rizika

Predviđene su i jasne obveze za druge visokorizične sustave umjetne inteligencije (zbog njihova znatnog potencijala za ugrožavanje zdravlja, sigurnosti, temeljnih prava, okoliša, demokracije i vladavine prava). Visokorizična umjetna inteligencija upotrebljava se, među ostalim, za kritičnu infrastrukturu, obrazovanje i osposobljavanje, zapošljavanje, ključne privatne i javne usluge (npr. zdravstvo, bankarstvo), određene sustave u okviru kaznenog progona, upravljanje migracijama i granicama, pravosuđe i demokratske procese (npr. utjecanje na izbore).

Za takve sustave treba osigurati procjenu i ublažavanje rizika, vođenje evidencije upotrebe, transparentnost i preciznost te ljudski nadzor.

Obveza označavanja sadržaja

Sustavi umjetne inteligencije opće namjene i modeli na kojima se temelje moraju zadovoljavati određene kriterije transparentnosti, uključujući usklađenost sa zakonom EU o autorskim pravima i objavljivanje detaljnih sažetaka sadržaja koji se koristi za treniranje sustava. Snažniji sustavi umjetne inteligencije opće namjene koji bi mogli predstavljati sistemske rizike podlijegat će dodatnim zahtjevima koji uključuju ocjenjivanje modela, procjene i ublažavanje sistemskih rizika te prijavljivanje incidenata.

Umjetno stvoreni ili manipulirani audiosadržaji, fotografije i videosadržaji (deepfakes) moraju biti jasno označeni kao takvi.

Poticanje inovacija

U Aktu stoji i da je potrebno uspostaviti regulatorno izolirano okruženje i testiranje u stvarnim uvjetima na nacionalnoj razini te omogućiti startup poduzećima te malim i srednjim poduzećima pristup istima kako bi mogla razvijati i trenirati inovativne sustave umjetne inteligencije prije njihova stavljanja na tržište.

Provedba u praksi

Uredbu još trebaju pregledati pravnici lingvisti, a očekuje se da će biti donesena prije kraja ovog parlamentarnog saziva. Vijeće također treba službeno podržati Akt, a on će potom stupiti na snagu 20 dana nakon objave u Službenom listu Europske unije. Počet će se primjenjivati 24 mjeseca nakon stupanja na snagu, osim zabranjenih primjena (šest mjeseci nakon stupanja na snagu), kodeksa prakse (devet mjeseci nakon stupanja na snagu), pravila za umjetnu inteligenciju opće namjene uključujući upravljanje (12 mjeseci nakon stupanja na snagu) i obveza za visokorizične sustave (36 mjeseci nakon stupanja na snagu).

Za provedbu Akta po državama bit će zadužena lokalna tijela, inače zadužena za nadzor nad tržištem, dok će na razini EU provedbu propisa koordinirati novoosnovani Europski ured za umjetnu inteligenciju, unutar Europske komisije. 

"Konačno imamo prvi svjetski obvezujući zakon o umjetnoj inteligenciji, za smanjenje rizika, stvaranje prilika, borbu protiv diskriminacije i uvođenje transparentnosti. Zahvaljujući Parlamentu, neprihvatljive prakse umjetne inteligencije bit će zabranjene u Europi, a prava radnika i građana bit će zaštićena", izjavio je suizvjestitelj Odbora za unutarnje tržište Brando Benifei.