Kineska uprava za kibernetički prostor (CAC) objavila je nacrt novih pravila koja nameću stroge obveze tvorcima sustava umjetne inteligencije. Primarni cilj tih je regulativa uspostavljanje sigurnosnih mehanizama za zaštitu djece i sprječavanje generiranja sadržaja koji bi mogao potaknuti nasilje, samoozljeđivanje ili kockanje. Pravila dolaze kao odgovor na globalni i lokalni porast broja chatbotova, čime se nastoji uvesti red u tehnologiju koja se razvija brže od trenutačnih zakonskih okvira.

Uvođenje reda i očuvanje zdravlja

Prema predloženim mjerama, tvrtke koje razvijaju AI modele morat će implementirati personalizirane postavke prilagođene dobi korisnika. To uključuje uvođenje vremenskih ograničenja za korištenje usluga te obvezno ishođenje suglasnosti skrbnika prije nego što se djeci omogući pristup uslugama koje nude "emocionalno druženje". Ovim se korakom želi spriječiti nekontrolirani utjecaj algoritama na emocionalni razvoj maloljetnika.

Poseban naglasak stavljen je na kritične situacije koje uključuju mentalno zdravlje, pa će AI kompanije biti obvezne osigurati ljudsku intervenciju u svakom trenutku kada razgovor skrene prema temama samoubojstva ili samoozljeđivanja. U takvim slučajevima, sustav mora odmah obavijestiti skrbnika ili kontakt za hitne slučajeve.

Osim zaštite pojedinca, nacrt pravila jasno definira i zaštitu državnih interesa. Pružatelji AI usluga moraju jamčiti da njihovi modeli neće generirati niti dijeliti sadržaj koji ugrožava nacionalnu sigurnost, narušava nacionalnu čast ili podriva državno jedinstvo. Na taj način, regulativa obuhvaća širok spektar djelovanja, od individualne sigurnosti do očuvanja društvenog poretka.

Unatoč strogim ograničenjima, CAC ističe kako država i dalje potiče usvajanje i razvoj umjetne inteligencije, ali pod uvjetom da je ona sigurna i pouzdana. Nacrt novih je pravila trenutačno u javnom savjetovanju.