Novi regulatorni okvir, poznat kao EU AI Act, zamišljen je kao prvi sveobuhvatni zakon o umjetnoj inteligenciji na svijetu. Njegov cilj je jasan: zaštititi građane i osigurati odgovornu primjenu tehnologije i predstavlja prvi sveobuhvatni pokušaj regulacije umjetne inteligencije na razini Europske unije. Temelji se na pristupu procjene rizika, što je sustav potencijalno opasniji za društvo, to su pravila stroža. 

Što to znači u praksi?

U praksi to znači da će određene primjene, poput sustava za masovni nadzor ili manipulaciju ponašanjem, biti zabranjene. Dok će “visokorizični” AI, primjerice oni koji se koriste u zapošljavanju, zdravstvu ili financijama, morati ispunjavati niz zahtjeva poput transparentnosti, sigurnosti podataka, mogućnosti ljudske kontrole i detaljne dokumentacije. Tvrtke će morati jasno objasniti kako njihovi modeli donose odluke, osigurati da podaci nisu pristrani i omogućiti nadzor regulatora.  Pravila za visokorizični AI smo pojasnili ovdje. Zakon je formalno stupio na snagu 2024. godine, uz postupnu primjenu pojedinih odredbi kroz sljedeće godine, a odnosi se na sve tvrtke i organizacije koje razvijaju, prodaju ili koriste AI sustave na tržištu Europske unije, bez obzira na to nalaze li se unutar EU ili izvan nje. Ono što se planira suštinski promijeniti je način razvoja tehnologije kako AI više ne bi bila “crna kutija” koja samo daje rezultate, već bi to trebao biti sustav koji mora biti razumljiv, provjerljiv i odgovoran prema korisnicima i društvu.

Kako će ti novi zahtjevi utjecati na male i srednje IT tvrtke?

Za male i srednje IT tvrtke u Hrvatskoj, koje često rade kao podizvođači ili razvijaju nišne proizvode, regulatorni zahtjevi mogli bi predstavljati ozbiljan teret. EU AI Act uvodi stroge obveze za sustave umjetne inteligencije, osobito one klasificirane kao “visokorizični”. To uključuje detaljnu dokumentaciju, procjene rizika, transparentnost algoritama i stalni nadzor. Velike kompanije imaju timove pravnika i stručnjaka za usklađenost koji se time bave svakodnevno. Male firme, s druge strane, često imaju desetak zaposlenih koji već sada balansiraju između razvoja, prodaje i održavanja. U takvom okruženju dodatna birokracija lako može postati prepreka, a ne poticaj.

Koji su izazovi?

Poseban izazov leži u troškovima usklađivanja. Implementacija svih potrebnih procedura, od auditiranja modela do osiguravanja sljedivosti podataka, zahtijeva vrijeme i novac. Za startup koji tek pokušava pronaći svoje mjesto na tržištu, to može značiti odgodu lansiranja proizvoda ili čak odustajanje od inovativnih rješenja. Postoji realan strah da će se dio poduzetnika okrenuti tržištima izvan Europske unije, gdje su pravila fleksibilnija, ili će jednostavno odustati od razvoja AI rješenja.

Koje su potencijalne prednosti?

Ipak, slika nije jednoznačna. Upravo ta regulacija može dugoročno postati konkurentska prednost. EU želi stvoriti tržište u kojem korisnici imaju povjerenje u tehnologiju, a to povjerenje postaje valuta sama po sebi. Male hrvatske firme koje uspiju uskladiti svoje proizvode s pravilima mogu dobiti etiketu pouzdanosti koja ih razlikuje od globalne konkurencije. U svijetu sve veće zabrinutosti oko privatnosti i etike, “europski standard” mogao bi postati sinonim za kvalitetu.

Dodatno, regulacija otvara prostor za novu vrstu usluga. Tvrtke koje se specijaliziraju za usklađivanje (compliance), audit AI sustava ili razvoj “regulation-ready” rješenja mogu pronaći potpuno nove poslovne modele. Hrvatski IT sektor, koji je već poznat po prilagodljivosti i izvozu usluga, mogao bi iskoristiti ovu tranziciju i pozicionirati se kao partner tvrtkama diljem Europe koje tek ulaze u proces usklađivanja.

Važnu ulogu igrat će i država. Ako Hrvatska prepozna izazove koje donosi EU AI Act i ponudi podršku kroz edukacije, subvencije ili porezne olakšice, mali igrači mogli bi lakše prebroditi prijelazno razdoblje. U suprotnom, rizik je da će domaće tržište dodatno konsolidirati nekoliko većih tvrtki, dok će manji inovatori nestati ili otići.

Zaključak

Na kraju, odgovor na pitanje iz naslova nije ni potpuno pesimističan ni bezuvjetno optimističan. EU AI Act neće automatski uništiti male IT firme u Hrvatskoj, ali će ih prisiliti na transformaciju. Oni koji se brzo prilagode i pronađu način da regulatorne zahtjeve pretvore u tržišnu prednost mogu izaći jači nego prije. Oni koji to ne uspiju, suočit će se s realnošću u kojoj inovacija više nije dovoljna sama po sebi nego mora biti i odgovorna, dokumentirana i transparentna. U tom novom poretku, opsta će ne samo najinovativniji, nego i najspremniji.