Izvršni direktor Microsofta, Satya Nadella, upozorio je na sve veće sigurnosne rizike povezane s razvojem naprednih modela umjetne inteligencije. U opsežnoj objavi na X-u, Nadella je poručio da bismo prilikom razvoja i korištenja AI sustava trebali polaziti od pretpostavke da je svaki model potencijalno kompromitiran, bez obzira na to koliko je napredan ili pouzdan.

"Moramo pretpostaviti da je model kompromitiran i od samog početka ograničiti njegovo djelovanje. Zamislite to kao sigurnosnu kočnicu. Ovlaštena osoba uvijek mora imati mogućnost zaustaviti ili isključiti model usred izvršavanja zadatka”, napisao je Nadella.

Pritom ne tvrdi da su svi postojeći AI modeli doista hakirani ili zlonamjerni, već smatra da bi njihovu sigurnost trebalo projektirati uz pretpostavku da mogu pogriješiti, biti zloupotrijebljeni ili izgubiti kontrolu nad svojim djelovanjem.

Nadella također upozorava da su današnji najnapredniji AI modeli sve sposobniji, ali da njihovi unutarnji procesi i dalje nisu dovoljno razumljivi. Za razliku od tradicionalnog softvera, kod kojeg se određeno ponašanje može povezati s konkretnim dijelom programskog koda, kod velikih jezičnih modela često nije moguće pouzdano utvrditi zašto su donijeli određenu odluku.

Problem postaje još izraženiji kada se takvim modelima omogući pristup osjetljivim poslovnim podacima ili im se prepusti samostalno izvršavanje važnih zadataka. Prema Nadelli, upravo je zato potrebno preispitati način na koji se gradi povjerenje u umjetnu inteligenciju.

"Jednostavno ne možemo prepustiti odgovornost za ono što inteligencija radi u naše ime. Jamstva pružatelja AI modela ne oslobađaju nas te odgovornosti", istaknuo je.

Microsoftov čelnik smatra i da bi se najnaprednije AI modele trebalo promatrati slično kao potencijalne unutarnje sigurnosne prijetnje u organizacijama. Takav pristup već se desetljećima primjenjuje u informacijskoj sigurnosti, gdje se pristup osjetljivim podacima ograničava, aktivnosti bilježe, a ovlasti pojedinih korisnika i sustava strogo kontroliraju.

Kako bi se smanjili rizici, Nadella predlaže neovisnu provjeru AI modela, kontinuirano testiranje i bilježenje njihovih aktivnosti. Pritom naglašava da sigurnosni mehanizmi moraju biti izvan samih modela kako oni ne bi mogli mijenjati vlastita ograničenja ili pristup podacima.

"Ako nešto ne možemo nadzirati, ne možemo mu ni vjerovati. Najpouzdaniji sustav AI-a neće biti onaj koji koristi model kojem najviše vjerujemo. Bit će to onaj koji nam omogućuje da se što manje oslanjamo na povjerenje u sam model”, zaključuje Nadella.