S porastom upotrebe umjetne inteligencije raste i zabrinutost zbog uočenih rizika koje sa sobom donosi ova tehnologija, uključujući njenu pristranost, niza povreda podataka i raznih vrsta zloupotreba. Kako bi popisali i na jednom mjestu grupirali i razvrstali sve rizike koje sa sobom nosi umjetna inteligencije, istraživači okupljeni oko MIT FutureTecha izradili su AI Risk Repository, bazu podataka sastavljenu od trenutačno 777 rizika koje prema mišljenju stručnjaka predstavlja umjetna inteligencija, kategoriziranih prema uzroku i domeni rizika. Ovaj projekt trebao bi industriji, znanstvenicima i kreatorima politika ponuditi zajednički okvir za praćenje i održavanje nadzora nad rizicima AI.

Repozitorij sadrži tri glavne komponente: popis različitih rizika iz 43 dokumenta, s uključenim citatima i brojevima stranica, koji se ažurira čim se pojavi neki novi rizik. Uzročna taksonomija klasificira kako, kada i zašto se takvi rizici pojavljuju, na temelju njihovih temeljnih uzroka. Uzroci su pak podijeljeni u tri kategorije. Prva određuje tko je odgovoran subjekt, čovjek ili AI. Druga klasificira kako, kada i zašto se ti rizici pojavljuju, a treća ove rizike klasificira ove rizike u sedam domena: diskriminacija i toksičnost; privatnost i sigurnost; dezinformacije; zlonamjerni akteri i zlouporaba; interakcija čovjek-računalo; socioekonomija i ekologija te sigurnost AI sustava, kvarovi i ograničenja. Ove domene podijeljene su u dodatne 23 poddomene, a baza je besplatna za kopiranje i korištenje.

Filtriranje podataka

Podaci iz ove baze podataka mogu se zasebno filtrirati kako bi se identificirali specifični rizici, na primjer, rizici koji se javljaju prije ili nakon implementacije ili oni koji su povezani s dezinformacijama. Podaci se dakako mogu i kombinirati kako bi se što bolje razumio način na koji svaki uzročni faktor utječe na neku domenu rizika. Na primjer, kako prepoznati namjerne i nenamjerne varijacije diskriminacije i toksičnosti.

Uz pomoć ovog repozitorija, kažu njegovi tvorci, lakše je identificirati nove, prethodno nedokumentirane rizike, postaviti temelje za razvoj drugih klasifikacija i pronaći neka još nedovoljno istražena područja istraživanja rizika koje sa sobom nosi implementacija AI.

Modifikacija i ažuriranje

Prikupljenim bazama podataka lako je pristupiti, jednostavno se modificiraju i ažuriraju putem internetske stranice i online proračunskih tablica.

Ovdje su na jednom mjestu pobrojani svi poznati sigurnosni, socijalni i ekonomski rizici, od neovlaštenog pristupa i zlouporaba preko nezaposlenosti, nejednakosti i diskriminacije, do gospodarskih nestabilnosti i koncentracije moći. Posebno su navedeni i rizici od razvoja superinteligencije koja bi mogla predstavljati egzistencijalnu prijetnju čovječanstvu, socijalne manipulacije, prekomjerne ovisnosti o AI-ju, gubitka ljudskih vještina, stvaranja sintetičke stvarnosti koja dovodi do gubitka osjećaja za realnost te razornih utjecaja na ljudsku psihu i međuljudske odnose.