Predloženi zakon, Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, imao je za cilj uvesti stroge sigurnosne protokole za velike sustave umjetne inteligencije prije njihovog javnog puštanja u rad. Međutim, nije potpisom prošao guvernerov stol i vraćen je zastupnicima na doradu.

Prijedlog za deaktivaciju AI sustava

Safe and Secure Innovation for Frontier Artificial Intelligence Models Act zahtijevao bi sigurnosne procjene za značajne AI sustave prije lansiranja, ovlastio državnog tužitelja da tuži korporacije za ozbiljne posljedice njihovih AI tehnologija te propisao ugradnju "prekidača" za deaktivaciju AI sustava u slučaju biološkog ratovanja, masovnih žrtava ili značajne materijalne štete. Međutim, ovaj zakonski prijedlog, koji je kalifornijski parlament usvojio gotovo jednoglasno, naišao je na značajan otpor vodećih tehnoloških tvrtki. Nedavno smo pisali smo o polemikama između zagovornika sigurnosti i kritičara.

Guvernerove kritike

U obrazloženju svog veta, guverner Newsom kritizirao je zakon zbog pretjeranog fokusa na reguliranje najvećih AI sustava, zanemarujući potencijalne opasnosti manjih, specijaliziranih sustava. 

"Fokusirajući se isključivo na najskuplje i najveće modele, SB 1047 uspostavlja regulatorni okvir koji bi javnosti mogao dati lažan osjećaj sigurnosti glede kontrole ove brzorazvijajuće tehnologije. Manji, specijalizirani modeli mogli bi se pokazati jednako ili čak opasnijima od modela na koje cilja SB 1047 - uz potencijalni trošak ograničavanja upravo one inovacije koja potiče napredak u korist javnog dobra." kaže se u obrazloženju

Žestoka rasprava

Zakonski prijedlog izazvao je intenzivnu raspravu u Silicijskoj dolini i šire. Podržali su ga Centar za sigurnost AI-ja, izvršni direktor SpaceX-a Elon Musk, istaknuti istraživači AI-ja i više od 125 lidera iz zabavne industrije. S druge strane, velike tehnološke tvrtke poput Mete, OpenAI-ja i Googlea, zajedno s nekoliko demokratskih zastupnika, uključujući Nancy Pelosi, tvrdile su da bi zakon mogao ugušiti inovacije.

Potpisano 17 zakona vezanih uz AI u 30 dana

Iako je odbio potpisati SB 1047, Newsom je najavio planove za suradnju s AI stručnjacima na razvoju "izvedivog okvira" za implementaciju AI-ja. Naglasio je da je njegova administracija u posljednjih 30 dana potpisala 17 zakona vezanih uz AI, koji se bave pitanjima poput deepfake sadržaja u izborima i AI-generiranog seksualno eksplicitnog materijala.

Veto na SB 1047 predstavlja korak unatrag za zagovornike strože regulacije AI-ja. Međutim, rasprava oko ovog zakona značajno je doprinijela razumijevanju problema oko sigurnosti AI-ja u Sjedinjenim Državama, a i šire. U budućnosti, zbog nedostatka saveznih propisa, druge države bi mogle same razmotriti i donijeti slične propise.