ChatGPT može razgovarati, ali zaposlenici OpenAI-ja sigurno ne mogu, lucidno je primijetio portal Vox, komentirajući trenutno previranje u ovoj kompaniji i nedostatak javne diskusije kuda ide OpenAI nakon egzodusa nekoliko bitnih članova tvrtke.

Sve je počelo očekivanim odlaskom suosnivača i glavnog znanstvenika tvrtke, Ilya Sutskevera, ali nakon toga je slijedila neočekivana ostavka njegovog kolege Jana Leikea. Prvi se rastao od kolega uz već tradicionalno hvaljenje kompanije, pozdravljanje i želje za budućim uspjesima. S Janom je bilo drugačije. Iako je Sam Altman sa žaljenjem komentirao njegov odlazak, zahvalio se na trudu, Leike je bio vrlo suzdržan i nije sve zamotao u celofan s mašnom, kako je to uobičajeno kad se odlazi iz kompanije. 

Na X-u je jednostavno napisao: ”Jučer je bio moj posljednji dan kao voditelja (tima) za usklađivanja, superuskladjivanje i člana uprave u OpenAI.” To je bilo dovoljno da počnu nagađanja oko sukoba u OpenAI uzrokovano ostavkama i navodnim nezadovoljstvom oboje, sad već bivših, zaposlenika. Kad se tome pribroje i ostali koji su nedavno napustili kompaniju, ima razloga vjerovati da se radi o ozbiljnijim unutrašnjim sukobima.

Nezadovoljstvo

“OpenAI je stvorio tim za kontrolu 'superinteligentne' umjetne inteligencije - a onda ga uvenuo”, naslovio je vijest portal Techcrunch. Taj tim bio odgovoran kontrolirati kako će se upravljati "superinteligentnim" AI sustavima te mu je obećana podrška i petinu kompjutorskih resursa tvrtke. No zahtjevi da se to sprovede često su odbijani i tako se blokirali tim u obavljanju posla. Voditelj tog tima bio je Jan Leike, nadređen  mu je bio Ilya Sutskever. Leike se vrlo brzo izjasnio što ga je ponukalo na odlazak: “Već neko vrijeme nisam se slagao s vodstvom OpenAI-ja oko temeljnih prioriteta tvrtke, sve dok konačno nismo došli do prijelomne točke,” napisao je Leike u nizu postova na X. “Vjerujem da je puno više naših sposobnosti i vremena trebalo potrošiti na pripremu za sljedeće generacije modela, sigurnosti, nadzoru, pripravnosti, otpornosti, (super)usklađenosti, povjerljivosti, društvenom utjecaju i srodnim temama. Te je probleme prilično teško riješiti i brinem se da nismo na putu da to postignemo."

Povelja obavezuje

U srpnju prošle godine OpenAI je najavio formiranje novog istraživačkog tima koji će se pripremiti za dolazak superpametne umjetne inteligencije sposobne nadmudriti i nadjačati svoje tvorce. Ilya Sutskever, glavni znanstvenik OpenAI-ja, imenovan je za pokrovitelja ovog novog tima, a Leikea za voditelja.  

Na blogu kompanije je tom prilikom napisano: "Trenutno nemamo rješenje za upravljanje ili kontrolu potencijalno superinteligentne umjetne inteligencije i spriječimo da se otme kontroli." Riječi su koje baš ne ulijevaju povjerenje ali vijest je dočekana s puno odobravanja.

Povelja OpenAI-ja obvezuje ga na siguran razvoj takozvane opće umjetne inteligencije ili tehnologije koja može konkurirati i čak potencijalno nadmašiti ljude. Sutskever i drugi tamošnji čelnici često su govorili o potrebi da se projekti razvijaju s oprezom.

Odlasci Sutskevera i Leikea dolaze nedugo nakon predstavljanja najnovijeg OpenAI-ja "multimodalnog" AI modela nazvanog GPT-4o koji omogućuje interakciju tekstom, glasom i slikom i odgovara na prirodniji način. Demonstracija prijenosa uživo pokazala je kako nova verzija ChatGPT-a može oponašati ljudske emocije i čak se pokušava šaliti s korisnicima. 

Ima još odlazaka

Nedavni drugi slučajevi odlazaka ukazuju da u OpenAI ima problema. Dva istraživača, Leopold Aschenbrenner i Pavel Izmailov, otpušteni su zbog odavanja tajni tvrtke. Drugi član, William Saunders, napustio je OpenAI u veljači. Još dva OpenAI istraživača koji su radili na politici i upravljanju umjetnom inteligencijom nedavno su napustila tvrtku. Cullen O'Keefe napustio je u travnju svoju ulogu voditelja istraživanja o političkim implikacijama umjetne inteligencije. Daniel Kokotajlo, OpenAI istraživač koji je koautor nekoliko radova o opasnostima naprednih AI modela, "napustio je OpenAI jer je izgubio povjerenje da će se ponašati odgovorno u kad dodje vrijeme AGI-ja", prema njegovoj objavi na internetskom forumu.

Upitna sigurnost

Nakon odlaska Leikea i Sutskevera, John Schulman, još jedan suosnivač OpenAI-ja, dobio je zaduženje da se bavi temama za koje je ranije bio zadužen sada već rasformirani Leikeov tim. Umjesto tog tima, sad će to biti povezana skupina istraživača iz svih odjela OpenAI-a.

„Pojavljuje se strah da kao rezultat svega ovoga, razvoj umjetne inteligencije OpenAI-ja neće biti dovoljno usmjeren na sigurnost kao što je mogao biti“, komentar je novinara Techcruncha, koji točno pogađa bit problema.