Profesorica Sveučilišta Središnje Floride (UCF) 26 drugih znanstvenika objavili su studiju u kojoj ističu prepreke s kojima se čovječanstvo mora uhvatiti u koštac kako bi zajamčilo da je umjetna inteligencija pouzdana, sigurna, pouzdana i usklađena s ljudskim vrijednostima. Studija, objavljena u International Journal of Human-Computer Interaction, poklopila se s objavom otvorenog pisma u kojem Elon Musk, Steve Wozniak i više od 1000 supotpisnika pozivaju na moratorij razvoja UI modela moćnijih od GPT-4 na najmanje šest mjeseci.

Temeljito preispitivanje

Umjetna inteligencija postaje sve prisutnija u raznim aspektima naših života i sa sobom nosi mnoštvo izazova koje je potrebno temeljito ispitati. Na primjer, nadolazeća široko rasprostranjena integracija umjetne inteligencije mogla bi značajno utjecati na ljudski život na načine koji još nisu u potpunosti shvaćeni, upozorava glavna autorica istraživanja Özlem Garibay, koja istražuje primjenu umjetne inteligencije u dizajnu i otkrivanju materijala i lijekova te njen utjecaj na društvene sustave.

Garibay i tim istraživača identificirali su šest izazova koje nam donosi sve veća primjena UI koji se tiču dobrobiti ljudi, odgovornosti, privatnosti, dizajna, upravljanja i nadzora te interakcije između čovjeka i umjetne inteligencije.

Šest izazova

Dobrobit ljudi: Umjetna inteligencija, pišu autori istraživanja, trebala bi moći otkriti mogućnosti implementacije za dobrobit ljudi. Također bi trebalo voditi računa o podršci dobrobiti korisnika prilikom interakcije s umjetnom inteligencijom.

Odgovornost: Inzistiranje na odgovornoj umjetnoj inteligenciji odnosi se na koncept davanja prioriteta dobrobiti ljudi i društva kroz životni ciklus umjetne inteligencije. Time se osigurava da se potencijalne koristi umjetne inteligencije iskoriste u skladu s ljudskim vrijednostima i prioritetima, a istovremeno se smanjuje rizik od neželjenih posljedica ili etičkih kršenja.

Privatnost: Također, prikupljanje, korištenje i širenje podataka u sustavima umjetne inteligencije trebalo bi pažljivo razmotriti kako bi se osigurala zaštita privatnosti pojedinaca i spriječilo štetno korištenje protiv pojedinaca ili grupa, kažu istraživači.

Dizajn: Prilikom dizajniranja različitih sustava treba razlikovati umjetnu inteligenciju s iznimno niskim rizikom, UI bez potrebe za posebnim mjerama, onu s iznimno visokim rizicima i umjetnu inteligenciju čiji se razvoj ne bi smio dopustiti ni pod koju cijenu.

Upravljanje i nadzor: Zbog toga nam je, kažu istraživači, potreban okvir upravljanja koji će u obzir uzeti cijeli životni ciklus umjetne inteligencije od prvotne ideje, preko razvoja, sve do implementacije.

Interakcija između čovjeka i umjetne inteligencije: Kako bi se poticao etički i ravnopravni odnos između ljudi i sustava umjetne inteligencije, neophodno je da se sve interakcije zasnivaju na temeljnom načelu poštivanja kognitivnih sposobnosti ljudi. Točnije, ljudi moraju zadržati potpunu kontrolu i odgovornost za ponašanje i rezultate UI sustava.

Poziv znanstvenoj zajednici

"Ovi su izazovi poziv znanstvenoj zajednici da razvije i implementira tehnologije umjetne inteligencije koje daju prioritet i koriste čovječanstvu", zaključuje 26 istraživača s različitim iskustvima u razvoju i implementaciji UI tehnologija koji na šest točaka programa radili posljednjih 20 mjeseci.