Sve šira primjena sustava umjetne inteligencije u različitim područjima ljudskog djelovanja zahtjeva uređenje pitanja kaznene odgovornosti fizičkih i pravnih osoba, obzirom na oblike ugroze uvjetovane razvojem sustava umjetne inteligencije, a posebno automatiziranih vozila, kao i definiranje značenja izraza "sustav umjetne inteligencije" za potrebe Kaznenog zakona. Stoji tako u obrazloženju Nacrta prijedloga zakona o izmjenama i dopunama Kaznenog zakona, koji je upućen u javno savjetovanje i dostupan na platformi e-Savjetovanja.

Dovođenje u opasnost

Kazneni zakon bi, dakle, u našoj zemlji uskoro trebao dobiti izmjene, a jedna od njih vezat će se i uz umjetnu inteligenciju te posljedice koje bi njezina primjena mogla imati. Ministarstvo pravosuđa i uprave kaže da je, uvažavajući činjenicu razvoja tehnologije umjetne inteligencije, uključujući automatiziranih vozila, i s njom poveznih ugroza za život i tijelo te imovinu, potrebno u zakonu uvesti novo kazneno djelo: "dovođenje u opasnost života i imovine sustavom umjetne inteligencije". Uz to, potrebno je i definirati značenje izraza "sustav umjetne inteligencije".

Ovim Prijedlogom zakona uredit će se, dakle, pitanje kaznene odgovornosti kada je riječ o izazivanju opasnosti za život ili tijelo ljudi ili za imovinu većeg opsega u razvoju, testiranju, provjeri, nadzoru, upravljanju, uporabi sustava umjetne inteligencije ili na drugi način, kao i nastupu težih posljedica u vidu teške tjelesne ozljede neke osobe, imovinske štete velikih razmjera ili smrti jedne ili više osoba. Pojednostavljeno rečeno, svi uključeni u proces uvođenja AI sustava mogli bi biti osobno kazneno odgovorni u slučaju da na kraju tog procesa, na bilo koji način, dođe do težih posljedica.

Za sve koji se bave umjetnom inteligencijom reperkusije bi ovakvog zakona mogle biti vrlo značajne – naime, njihova angažiranost u razvoju i implementaciji AI sustava u automobilima ili drugdje, u slučaju da kasnije nešto pođe po zlu, mogla bi ih dovesti pred sud ili pak iza rešetaka. Zakonodavac je predvidio i zatvorske kazne od šest mjeseci pa do petnaest godina, u slučaju smrtnih posljedica.

Prve kritike

Na ovaj su prijedlog već počeli pristizati i komentari javnosti. Ratko Mutavdžić iz Microsofta tako navodi sljedeće: "Predloženi članak 215.a preširoko definira kazneno djelo povezano s uporabom umjetne inteligencije, što je u suprotnosti s pristupom EU AI Act-a koji zahtijeva jasno određene scenarije visokog rizika (npr. autonomna vozila, zdravstvo, kritična infrastruktura). Opća formulacija narušava načelo pravne izvjesnosti (lex certa) i preklapa se s postojećim kaznenim djelima (općeopasne radnje, ugrožavanje prometa). Hrvatska je obvezna do 2027. uskladiti zakonodavstvo s AI Act-om i Direktivom 2024/1385, što zahtijeva precizne, a ne opće norme. Predlažem umjesto općeg članka definirati posebne inkriminacije za jasno određene visokorizične scenarije, čime bi se osigurala pravna sigurnost i usklađenost s EU pravnim okvirom."

"Promjene koje se predlažu u kaznenom zakonu imat će dalekosežne posljedice, primarno u vidu usporavanja pa sve do zaustavljanja apsolutno svake primjene AI-a u svim aspektima našeg života. Ovakve stvari i opasna ograničenja u vrijeme industrijskih revolucija prave razliku između dugoročno uspješnih i neuspješnih društava (sjetite se nastave povijesti i 19. stoljeća te načina kako je propalo Osmansko, a jednim dijelom i Habsburško carstvo zbog apsolutne zaostalosti po pitanju industrijalizacije). Pozivam sve da se uključe u savjetovanje oko ovih zakonskih promjena jer će one imati dugoročne posljedice na naše karijere, poslovanje i konkurentnost naših organizacija i društva u cjelini", napisao je Bugov suradnik Tomislav Tipurić na LinkedInu.