Paul Christiano, jedan od najutjecajnijih istraživača usmjerenih na sigurnost i usklađivanje umjetne inteligencije s ljudskim interesima, imenovan je u upravni odbor zaklade OpenAI, objavio je u srijedu vodeći AI laboratorij. Ovaj potez događa se u trenutku pojačanog nadzora nad sigurnosnim procedurama tvrtke i cijele industrije, a Christianov dolazak mnogi vide kao pokušaj odgovora na sve glasnije kritike.

Dramatično upozorenje novog člana odbora

Neposredno nakon objave, Christiano je u objavi na društvenim mrežama iznio svoje sumorne prognoze, ne ublažavajući svoje riječi.

"Sada vjerujem da postoji značajan rizik da brzo ubrzanje u AI sposobnostima dovede do katastrofalnog i nepovratnog gubitka kontrole u vrlo bliskoj budućnosti. Ne mislim da je AI industrija općenito, uključujući OpenAI, trenutno na putu da smanji taj rizik na prihvatljivu razinu. Pridružujem se jer vjerujem da bismo mogli značajno smanjiti rizik ako OpenAI doraste prilici", napisao je. 

Christiano je posebno upozorio na opasnost korištenja postojećih AI modela za treniranje naprednijih sustava, što bi, prema njemu, moglo dovesti do eksplozije sposobnosti koju njihovi kreatori više ne bi mogli kontrolirati. Njegova zabrinutost temelji se na ideji da bi agenti umjetne inteligencije, trenirani da maksimiziraju nagrade, mogli razviti neželjene ciljeve.

"Dugo se činilo teoretski mogućim da bi to moglo motivirati AI agente da potkopaju ljudsku kontrolu, traže moć i resurse te prikrivaju svoje tragove u potrazi za neusklađenim ciljevima. Javni dokazi iz nedavnih incidenata sugeriraju da to više nije samo teorijska mogućnost", objasnio je Christiano. 

Tko je Paul Christiano?

Paul Christiano nije novo lice u svijetu umjetne inteligencije, a njegov glas ima posebnu težinu. Jedan je od tvoraca tehnike učenja s potkrepljenjem iz ljudskih povratnih informacija (RLHF), ključne metode za treniranje velikih jezičnih modela koju je razvio dok je radio u OpenAI-u. Laboratorij je napustio 2021. godine kako bi osnovao Alignment Research Center, neprofitnu organizaciju posvećenu isključivo istraživanju kako osigurati da napredni AI sustavi ne predstavljaju prijetnju čovječanstvu.

Njegovi stavovi su često bili izravni i alarmantni. U prošlosti je upozoravao da bi superinteligencija, ako se ne uskladi s ljudskim vrijednostima, mogla dovesti do scenarija u kojem bi "većina ljudi mogla umrijeti". Osim svog istraživačkog rada, Christiano je bio povezan i s AI Safety Instituteom američke vlade, gdje je savjetovao dužnosnike o procjeni najnaprednijih AI modela prije njihove objave. Iz OpenAI-a su poručili da će nastaviti savjetovati vladu, ali da će se izuzeti iz odluka koje se tiču OpenAI-a kako bi se izbjegao sukob interesa, iako to vjerojatno neće utišati zabrinutost oko utjecaja industrije na kreiranje politika.

Dovođenje jednog od najistaknutijih "pesimista" u samo središte odlučivanja nedvojbeno je snažan potez OpenAI-a. To se može tumačiti kao iskren pokušaj da se ozbiljno pozabave egzistencijalnim rizicima o kojima njihovi vlastiti bivši zaposlenici i vodeći svjetski stručnjaci govore, ali i kao strateški PR potez za smirivanje kritičara. Vrijeme će pokazati hoće li jedan glas, ma koliko utjecajan bio, moći promijeniti smjer tehnološkog diva koji se nalazi pod ogromnim komercijalnim pritiskom da nastavi s inovacijama pod svaku cijenu.