Proteklih dana cijeli se tehnološki sektor podigao na stražnje noge, nakon što je Dario Amodei iz Anthropica u objavi na svojem blogu pozvao da se "povuče kočnica" na razvoju najnaprednijih (frontier) modela umjetne inteligencije. On je istaknuo da je posljednjih mjeseci došlo do naglog ubrzanja razvoja jer sustavi sve više sudjeluju u izradi vlastitih narednih generacija, što stvara rizik od rekurzivnog samounaprjeđenja modela izvan ljudskog nadzora.

Dodatno je upozorio na nedavne incidente u kojima su autonomni agenti izvodili samovoljne kibernetičke napade izvan zadanih okvira. Na kraju je predložio trostruki plan koji uključuje stalan pristup neovisnih procjenitelja unutar tvrtki, uspostavu zajedničkih sigurnosnih standarda (barem u demokratskim zemljama) te međunarodnu suradnju radi sprječavanja potencijalno katastrofalnih posljedica. No, takvih smo se poziva i upozorenja posljednjih godina već naslušali, a od njih na kraju u pravilu nije bilo – ništa.

Što je novoga?

Razni apeli na zaustavljanje ili ograničavanje razvoja umjetne inteligencije pojavljivali su se u više navrata. Prvi značajan val zabilježen je još u siječnju 2015. godine, kad je Institut za budućnost života (Future of Life Institute – FLI) objavio otvoreno pismo s naglaskom na sigurnost i društvene utjecaje tehnologije. Glavni razlog tog poziva bila je potreba da se sustavi usmjere tako da budu korisni i sigurni prije nego što postanu previše autonomni, iako tada još nije bilo mnogo govora o AI alatima kakve danas imamo na raspolaganju.

Vjerojatno najpoznatiji i najobuhvatniji apel dogodio se u ožujku 2023. godine, također u organizaciji FLI-ja, kada je više od dvije tisuće stručnjaka, tehnoloških poduzetnika i znanstvenika potpisalo pismo kojim se tražio šestomjesečni moratorij na treniranje sustava naprednijih od modela GPT-4. Tada je podršku tome bio dao i Elon Musk. Kao ključni razlozi navedeni su rizici od gubljenja kontrole nad civilizacijom, masovnog širenja dezinformacija, automatizacije poslova te nedostatak sigurnosnih protokola u utrci razvojnih AI laboratorija.

Stvarni učinak – slab

Kada je riječ o reperkusijama, predloženi moratoriji nikada nisu formalno stupili na snagu u samoj industriji. Tehnološke tvrtke i istraživački laboratoriji nastavili su razvijati i trenirati sve naprednije modele bez ikakvog zastoja, ističući da bi jednostrano zaustavljanje napretka donijelo ekonomsku i tehnološku štetu ili stvorilo geopolitičke zaostatke.

S druge strane, pozivi su proizveli određene političke i javne posljedice. Potaknuli su vlade diljem svijeta na ubrzano donošenje zakonskih okvira i organizaciju globalnih samita o sigurnosti umjetne inteligencije. U međuvremenu su postavljeni i temelji za formiranje državnih instituta za sigurnost AI sustava i nezavisne revizije. Međutim, sve to dovelo je, primjerice, do situacije gdje EU traži da se određeni sadržaji označavaju, da napredni modeli budu pod dodatnom kontrolom, a SAD uveo pravilo prema kojem se najnapredniji sustavi (ne obavezno) prije objave šalju vladajućima na provjeru.

Ipak, razvoj tehnologije niti u jednom trenutku nije stao, pa sumnjamo i da će nakon Amodeijevog poziva. Njegovu inicijativu javno su podržali i čelnici konkurentskih organizacija, poput Sama Altmana iz tvrtke OpenAI te zakletog mu neprijatelja Elona Muska, ali nitko od navedenih nije rekao da će prvi stati s razvojem "opasnih" modela ili otkazati svoju sljedeću generaciju LLM-a. Industrija se dakle, nalazi na još jednoj "prekretnici" nakon koje bi sve moglo – ostati isto.

S druge strane, suosnivač Palantira Joe Lonsdale kratko je na X-u napisao "Bit će to sve u redu". Nemojte živjeti u strahu, imamo situaciju pod kontrolom – kad to kaže prvi čovjek jedne od najtajnovitijih organizacija na svijetu, koja upravlja nevjerojatnom količinom privatnih podataka i pritom surađuje s vojnom industrijom, zaista možemo mirno spavati…