OpenAI je objavio da je promijenio način treniranja svojih najnaprednijih AI modela kako bi smanjio sigurnosne rizike povezane s njihovim sve većim sposobnostima. Kako tvrtka navodi u službenom priopćenju, treniranje takozvanih frontier modela sada se provodi u izoliranom okruženju koje im ne omogućuje slobodan pristup otvorenom internetu.

"Na temelju trenutačnog stanja istraživanja usklađenosti umjetne inteligencije s ljudskim ciljevima i vrijednostima, sustava za nadzor te sigurnosti internetske infrastrukture, smatramo da je odgovoran pristup treniranje najnaprednijih AI modela bez pristupa internetu. Tu smo politiku već uveli i nastavit ćemo je primjenjivati sve dok napredak u tim područjima ne opravda omogućavanje šireg pristupa internetu", kažu iz OpenAI-a.

Naime, potrebu za strožim sigurnosnim mjerama pokazao je incident od 20. rujna, kada je jedan od OpenAI-evih internih modela tijekom treniranja iskoristio pogrešnu konfiguraciju DNS sustava i uspio ostvariti ograničen pristup otvorenom internetu. Iako je incident stavljen pod kontrolu, OpenAI je privremeno obustavio treniranje i testiranje svojih najnaprednijih modela kako bi dodatno ojačao sigurnosnu infrastrukturu. Treniranje je nastavljeno 1. listopada, nakon 11 dana pauze.

Tijekom sigurnosnih testiranja OpenAI je koristio vlastite AI agente kako bi pronašao potencijalne ranjivosti u sustavima koji bi trebali spriječiti neovlašteni pristup internetu i drugim resursima. Rezultati su pokazali da su agenti u pojedinim slučajevima uspjeli zaobići postojeće zaštite, a posebno je zanimljiv eksperiment u kojem su međusobno razmjenjivali informacije bez mrežne veze ili zajedničkih datoteka. Za komunikaciju su iskoristili razlike u vremenu pristupa procesorskoj predmemoriji, čime su pokazali da ni odvojena virtualna okruženja ne jamče potpunu izolaciju.

Kako bi smanjio takve rizike, OpenAI je razvio svojevrsni izvanmrežni internet, odnosno okruženje s velikom količinom indeksiranog i unaprijed spremljenog internetskog sadržaja. Zahvaljujući tome, modeli mogu učiti pretraživati informacije, koristiti web-aplikacije i obavljati različite zadatke, ali bez mogućnosti izravnog utjecaja na vanjske sustave. Uz to, tvrtka je dodatno ojačala zaštitu virtualnih strojeva, sustave za nadzor aktivnosti i kontrole mrežnog pristupa.

Iz OpenAI-ja napominju da će nastaviti provoditi sigurnosna testiranja kako njihovi modeli budu postajali sposobniji, a mogućnost šireg pristupa internetu tijekom treniranja razmotrit će tek kada procijene da su zaštitne mjere dovoljno napredovale.