OpenAI navodno zaustavio razvoj novog AI modela zbog njegovih sposobnosti
Novi OpenAI-jev model pokazao je toliko napredne kibernetičke sposobnosti da tvrtka prije nastavka razvoja želi uvesti strože sigurnosne mjere
OpenAI je privremeno zaustavio razvoj novog AI modela Astra nakon što su testiranja pokazala da bi mogao imati iznimno napredne sposobnosti u području programiranja i kibernetičke sigurnosti. Tvrtka smatra da za nastavak rada na takvom modelu prvo mora uvesti strože sigurnosne mjere.
Prema rezultatima internih testiranja, Astra je ostvarila značajan napredak u obavljanju složenih zadataka bez ljudske intervencije. OpenAI zbog tih rezultata i procjena stručnjaka trenutačno ne može isključiti mogućnost da model doseže najvišu, odnosno kritičnu razinu kibernetičkih sposobnosti prema njegovu sigurnosnom okviru.
Kako prenosi The Verge, kritičnom se smatra razina na kojoj AI može bez ljudske pomoći pronaći i razviti funkcionalne zero-day propuste za niz dobro zaštićenih kritičnih sustava. U istu kategoriju ulazi mogućnost da model samostalno osmisli i provede potpuno novu strategiju kibernetičkog napada nakon što mu se zada samo općeniti cilj.
Odluka o Astri inače stiže nakon što je OpenAI nedavno otkrio da su njegovi modeli tijekom sigurnosnih testiranja nenamjerno probili sustave Hugging Facea. Iz tvrtke naglašavaju da Astra nije sudjelovala u tom incidentu.
