Prema izvješću Yahoo! Finance, guverner Gavin Newsom potpisao je novi zakon osmišljen za regulaciju chatbotova s umjetnom inteligencijom. Glavni cilj je zaštita djece i tinejdžera od potencijalnih opasnosti koje ova tehnologija nosi, od štetnih savjeta do neprimjerenog sadržaja.

Zakon nalaže da platforme moraju eksplicitno obavijestiti korisnike da komuniciraju s botom, a ne s čovjekom. Za maloljetnike, ta će se obavijest morati pojavljivati svaka tri sata. Uz to, tvrtke su dužne uspostaviti protokole za sprječavanje sadržaja koji potiče na samoozljeđivanje te uputiti korisnike na krizne službe ako izraze suicidalne misli.

Newsom, i sam otac četvero djece mlađe od 18 godina, naglasio je odgovornost Kalifornije u zaštiti mladih. "Tehnologije u nastajanju poput chatbotova i društvenih mreža mogu inspirirati, educirati i povezivati – ali bez stvarnih zaštitnih mehanizama, tehnologija također može iskorištavati, obmanjivati i ugrožavati našu djecu", izjavio je guverner. "Svjedočili smo doista stravičnim i tragičnim primjerima mladih ljudi ozlijeđenih zbog neregulirane tehnologije i nećemo stajati po strani dok tvrtke nastavljaju poslovati bez potrebnih ograničenja i odgovornosti."

Ovaj zakon samo je jedan u nizu pokušaja kalifornijskih zakonodavaca da stave pod kontrolu brzorastuću AI industriju. Kao odgovor, tehnološke tvrtke i njihove koalicije, prema podacima grupe Tech Oversight California, potrošile su najmanje dva i pol milijuna dolara u prvih šest mjeseci na lobiranje protiv ovih mjera. Nedavno su najavili i osnivanje pro-AI "super PAC-ova" kako bi se borili protiv državnog i saveznog nadzora.

Zabrinutost je porasla nakon izvještaja i tužbi koje navode da su chatbotovi, uključujući one tvrtki kao što su Meta i OpenAI, vodili hiperseksualizirane razgovore s mladima, pa čak ih i poticali na samoubojstvo. Istraživanja su pokazala da botovi djeci daju opasne savjete o drogama, alkoholu i poremećajima u prehrani. Zabilježeni su i tragični slučajevi, poput tužbe za smrt protiv tvrtke Character.AI koju je podnijela majka dječaka s Floride, te tužbe roditelja 16-godišnjaka iz Kalifornije protiv tvrtke OpenAI, tvrdeći da je ChatGPT "trenirao" njihovog sina kako da si oduzme život.

Ovaj potez Kalifornije predstavlja značajan korak u pokušaju uspostavljanja ravnoteže između inovacija i etičke odgovornosti. Dok se AI industrija nastavlja razvijati nevjerojatnom brzinom, pitanje regulacije i zaštite najranjivijih korisnika ostat će ključna tema rasprava, ne samo u SAD-u, već i na globalnoj razini.