Milton Mueller: 'AGI nije egzistencijalna prijetnja čovječanstvu'
Mit da će opća umjetna inteligencija uništiti ljudski rod odvraća pozornost od političkih pitanja o upotrebi AI te potiče autoritarne intervencije nad svim oblicima informacijske i komunikacijske tehnologije
Računalni znanstvenici često nisu dobri u procjeni društvenih i političkih implikacija tehnologije. Oni su usredotočeni na mehanizme umjetne inteligencije i opčinjeni su njezinim uspjehom, ali je ne znaju smjestiti u društveni i povijesni kontekst, uvjeren je Milton Mueller, profesor s Georgia Techa koji već četiri desetljeća proučava informacijske tehnologije. U svom posljednjem radu, nedavno objavljenom u časopisu Journal of Cyber Policy, istražio je koliko daleko umjetna inteligencija može ići i predstavlja li doista, kako strahuju mnogi, egzistencijalnu prijetnju čovječanstvu.
Strah od superinteligencije
Umjetna inteligencija koja izaziva najveći strah naziva se općom umjetnom inteligencijom (AGI), a nevolja je to što se nitko ne može složiti oko definicije ove "superinteligencije“, o čemu je već pisano na stranicama Buga.
Dakako, definicija nije jedini problem. Mnogi računalni znanstvenici pretpostavljaju da bi, kako računalna snaga raste, AI s vremenom mogla prestići ljude i djelovati autonomno. Mueller tvrdi da je ta pretpostavka pogrešna: umjetna inteligencija je uvijek usmjerena ili obučena prema cilju i trenutno ne djeluje autonomno. Sjetite se, kaže, upita koji upisujete u ChatGPT da biste započeli razgovor.
Razlozi protiv
Ako AI zanemaruje upute, ona to čini zbog nedosljednosti u uputama, objašnjava Mueller navodeći primjer videoigre utrke čamaca u kojoj je umjetna inteligencija je otkrila da više bodova može dobiti kruženjem po stazi umjesto pobjedom u utrci. Problem je, kaže, u strukturi nagrađivanja sustava, a ne autonomija umjetne inteligencije.
Da bi se proširila poput lavine preko točke u kojoj ljudi izgube kontrolu nad svojim rezultatima, AI bi trebala imati fizičku sposobnost da izvršava svoje naredbe te izvor energije i infrastrukturu za samoodržavanje. Običan podatkovni centar to ne bi mogao i trebao bi ljudsku intervenciju da bi postao svemoćan. Osnovni zakoni fizike - koliko velik stroj može biti, koliko može izračunati - također bi spriječili super umjetnu inteligenciju, piše Mueller.
Još važnije, AI nije jedno homogeno biće; različite primjene uključuju različite zakone, propise i društvene institucije. Pravi izazov dakle nije zaustavljanje apokalipse koji bi nam mogla donijeti umjetna inteligencija već osmišljavanje pametnih, sektorski specifičnih politika koje će tehnologiju uskladiti s ljudskim vrijednostima, zaključuje Mueller.
