Kalifornijski senat nedavno je predložio Zakon o sigurnoj i pouzdanoj inovaciji za napredne modele umjetne inteligencije, poznat kao SB 1047, kojim se uspostavlja pravni okvir za razvoj i primjenu naprednih sustava umjetne inteligencije u Kaliforniji.

Zakon zahtijeva da tvrtke koje razvijaju AI modele poštuju stroge sigurnosne zahtjeve i protokole. Jedna od ključnih odredbi nalaže da tvrtke moraju imati mogućnost trenutnog isključivanja AI modela koji nisu prošli rigoroznu sigurnosnu provjeru. Uz to, tvrtke su dužne svake godine dostaviti potvrdu o usklađenosti sa zakonom, koju potpisuje vrh menadžmenta.

Novi odjel unutar Ministarstva tehnologije

Zakon predviđa osnivanje novog Odjela za napredne modele unutar Ministarstva tehnologije koji će biti zadužen za nadzor AI modela i osiguravati da se tvrtke pridržavaju odredbi zakona. Tvrtke su obvezne prijaviti sve sigurnosne incidente vezane uz AI u roku od 72 sata od njihovog nastanka.

Kako bi potaknuo transparentnost i etičko poslovanje, zakon također uključuje zaštitu za zviždače, što bi omogućilo zaposlenicima da prijave kršenje pravila bez straha od odmazde. Nadalje, tvrtke koje pružaju računalnu infrastrukturu za treniranje AI modela moraju provjeriti kome daju servis kako bi se spriječila zlouporaba. Za one koji se ne pridržavaju zakona predviđene su novčane kazne i moguće sudske zabrane.

Kriteriji: računalna snaga i trošak

Definicija “modela obuhvaćenih zakonom" izazvala je dodatne kontroverze. Kritičari ističu da je nejasna i da nije uvijek jednostavno precizno odrediti troškove treniranja modela te da bi zakon mogao neproporcionalno kažnjavati tvrtke na temelju veličine njihovog ulaganja, što bi dovelo do nedosljedne primjene propisa. Radi se o modelima koji ispunjavaju određene kriterije vezane uz njihovu računalnu snagu i trošak.

Prema prijedlogu, "obuhvaćeni model" se trenira koristeći količinu računalne snage veću od 10^26 FLOPS-a, te trošak treniranja takvog modela mora premašiti 100 milijuna dolara kada se izračuna koristeći prosječne tržišne cijene računalstva u oblaku na početku treniranja, što razumno procjenjuje razvojni tim.

Brojni protivnici

Protivnici zakona, a ima ih mnogo - investitori, znanstvenici, osnivači startupa i menadžment velikih tvrtki, istraživači umjetne inteligencije i čelnici zajednice otvorenog izvornog koda, izražavaju zabrinutost da bi mogao ugušiti inovacije i negativno utjecati na ekonomiju. Smatraju nerazumnim zahtjev da tvrtke moraju osigurati da se njihovi AI modeli ne mogu zloupotrijebiti prije nego što započne proces treniranja. Ovakav pristup, tvrde, mogao bi izložiti razvojne timove odgovornosti za situacije koje su izvan njihove kontrole. Zahtjevi za usklađivanje sa zakonom ocijenjeni su kao skupi i vremenski zahtjevni, što bi moglo potaknuti startupove da svoje poslovanje presele u druge države s manje restriktivnim propisima.

Jučer je zastupnica Nancy Pelosi ocijenila zakon kao "dobronamjeran, ali neinformiran". Izrazila je zabrinutost da bi zakon Kaliforniji mogao nanijeti više štete nego koristi. Zamimljivo da zakon predlaže senator Scott Wiener, pa kako su i Pelosi i on Demokrati, to govori o zanimljivoj dinamici unutar Demokratske stranke kad je u pitanju reguliranje tehnologije.

Velike tehnološke tvrtke koje imaju sjedište u Kaliforniji - Apple, Google (Alphabet), Meta Platforms, OpenAI - također su se usprotivile zakonu, tvrdeći da ograničava slobodu govora i mogao bi potaknuti odljev tehnoloških inovacija iz Kalifornije.

Žurba kalifornijskih zakonodavaca

Kalifornija, kao središte Silicijske doline i sjedište najpoznatijih svjetskih tvrtki za umjetnu inteligenciju, ima izniman utjecaj u tehnološkom sektoru i van Sjedinjenih Država. Međutim, ishitreno donošenje nedovoljno promišljenog zakonodavstva moglo bi imati kontraproduktivan učinak. Umjesto toga, kritičari preporučuju da se radije razmatraju specifični slučajevi uporabe u suradnji s AI stručnjacima.

S obzirom na istaknutu ulogu kalifornijske tehnološke industrije, usvajanje Zakona SB 1047 moglo bi značajno utjecati i na globalnu politiku umjetne inteligencije. Ovaj zakon ima potencijal oblikovati regulacije daleko izvan granica same države, što objašnjava žurbu kalifornijskih zakonodavaca da ostave svoj trag u ovom ključnom pitanju.