OpenAI: Novi model umjetne inteligencije, novi Odbor te napuštanje razvoja superinteligencije
Novi model umjetne inteligencije, nasljednik popularnog ChatGPT-a, očekuje se da će donijeti "sljedeću razinu sposobnosti" i značajan korak u postizanju umjetne opće inteligencije (AGI), ali odstaje se od ranijih izjava o potencijalu svojih modela umjetne inteligencije za postizanje superinteligencije
OpenAI, najpoznatija od svih kompanija koje se bave umjetnom inteligencijom, objavila je jučer dvije značajne vijesti: početak obuke novog modela umjetne inteligencije i osnivanje Odbora za sigurnost i zaštitu. Osim toga, napuštaju se ranije ambicije o postizanju superinteligencije. Vijest je prvi objavio New York Times,
Novi model i novi odbor
Novi model umjetne inteligencije, nasljednik popularnog ChatGPT-a, očekuje se da će donijeti "sljedeću razinu sposobnosti" i značajan korak u postizanju umjetne opće inteligencije (AGI). Vremenski okvir za izdavanje modela još nije poznat, ali se očekuje se da će novi model postaviti nove standarde u umjetnoj inteligenciji. Zamijenit će generaciju OpenAI-jev GPT-4, koja je prvi put objavljena u ožujku 2023. godine.
Osnivanje Odbora za sigurnost i zaštitu dolazi u kontekstu ostavke dvoje ključnih članova kompanije. Ovaj odbor, sastavljen od tehničkih i političkih stručnjaka, u roku od 90 dana evaluirat će i poboljšati procese i zaštitne mjere OpenAI-a. Odbor uključuje Sama Altmana, a u njega su izabrani Bret Taylor, Adam D'Angelo i Nicole Seligman. Vijest je odmah kritizirana jer je novi odbor u potpunosti sastavljen od članova OpenAI-jevog manadžmenta, pa se smatra da procjena sigurnosnih mjera tvrtke neće biti neovisna.
Ipak navode da će se savjetovati s vanjskim stručnjacima za sigurnost i zaštitu kako bi se osigurao odgovoran i transparentan razvoj umjetne inteligencije. Osnivanje odbora predstavlja odgovor na kritike da OpenAI nije posvetio dovoljno resursa dugoročnoj sigurnosti.
Superinteligencija
OpenAI je nedavno odustao od svojih ranijih izjava o potencijalu svojih modela umjetne inteligencije za postizanje superinteligencije. Dok je tvrtka ranije sugerirala da bi njeni sustavi umjetne inteligencije mogli nadmašiti ljudsku inteligenciju, sada priznaje ograničenja i izazove u stvaranju superinteligentne umjetne inteligencije.
Superinteligencija, definirana kao intelekt mnogo pametniji od ljudskog mozga u gotovo svim područjima, ostaje hipotetski koncept bez jasnog puta do realizacije. Čak i uz napredni hardver i softver, postoje temeljne prepreke stvaranju sustava umjetne inteligencije koji može odgovarati ili premašiti ljudsku inteligenciju u svim domenama. Ekipa OpenAI-a je svjesna etičkih zabrinutosti i potencijalnih rizika povezanih sa superinteligencijom. Zbog toga se,unatoč ranijim najavama, sada fokusira na razvoj sigurnih i korisnih sustava umjetne inteligencije koji poboljšavaju ljudske sposobnosti umjesto da se usredotoče na superinteligenciju
