Demis Hassabis, suosnivač i izvršni direktor tvrtke Google DeepMind, smatra da je svijetu hitno potrebno neovisno nadzorno tijelo za umjetnu inteligenciju. Ono bi, prema njegovoj viziji, imalo ovlasti "pritisnuti kočnicu" ako najnapredniji AI modeli postanu previše opasni za puštanje u javnost. Njegov poziv dolazi u trenutku kad se industrija suočava s ubrzanim razvojem tehnologije koja bi mogla iz temelja promijeniti ljudsko društvo.

U opširnoj objavi na blogu, Hassabis iznosi detaljan plan za osnivanje takve organizacije. Tvrdi da bi inicijativu trebao voditi SAD, argumentirajući kako je ta zemlja u najboljem položaju za postavljanje globalnih standarda s obzirom na svoj ekonomski i tehnički položaj. Ovo tijelo, koje bi se moglo financirati izravno iz industrije i djelovati po uzoru na postojeće regulatore poput američke Agencije za regulaciju financijske industrije (FINRA), sastojalo bi se od vodećih neovisnih stručnjaka i predstavnika open-source zajednica.

Njegova ključna zadaća bila bi evaluacija frontier AI modela prije nego što budu pušteni u upotrebu. Ako bi se procijenilo da su modeli previše rizični, tijelo bi imalo ovlasti koordinirati usporavanje razvoja na razini cijele industrije. Hassabis upozorava da je potreba za globalnom regulacijom sve hitnija jer AI sustavi postaju sve sofisticiraniji. Opća umjetna inteligencija (AGI), kaže, vjerojatno je udaljena samo nekoliko kratkih godina.

"Kada se za nekoliko desetljeća osvrnemo na ovo vrijeme, mislim da ćemo shvatiti da smo stajali u podnožju singularnosti - ni manje ni više nego u zoru novog doba za čovječanstvo", napisao je.

Tiha diplomacija i širi kontekst

Prema pisanju portala Axios, Hassabis je mjesecima u tišini gradio podršku za svoj prijedlog. Održao je sastanke s dužnosnicima Trumpove administracije, predstavnicima drugih AI laboratorija i europskim dužnosnicima, a nada se da bi nova organizacija mogla biti operativna prije kraja godine. U izjavi za Axios istaknuo je da su povratne informacije koje dobiva od Trumpove administracije vrlo pozitivne.

Ovaj prijedlog inače nije izolirani čin, već se nadovezuje na višemjesečne napore Hassabisa i drugih čelnika industrije da se uspostavi koherentan okvir za upravljanje sve moćnijim AI sustavima. Prošlog mjeseca, Hassabis, koji je i dobitnik Nobelove nagrade za kemiju 2024. za svoj rad na predviđanju strukture proteina pomoću umjetne inteligencije, potpisao je izjavu kojom se poziva na strožu zaštitu od proizvodnje biološkog oružja potpomognutog umjetnom inteligencijom.

Njegov poziv također je uslijedio nakon apela vodećih ekonomista i tehnoloških titana, uključujući suosnivača Anthropica Jacka Clarka i bivšeg izvršnog direktora Googlea Erica Schmidta, koji su pozvali svjetske lidere da ozbiljno shvate nadolazeće ekonomske posljedice umjetne inteligencije.

Izazovi na globalnoj sceni

Hassabisov prijedlog ulazi u već prilično dinamičnu arenu globalne rasprave o upravljanju umjetnom inteligencijom. Iako on zagovara američko vodstvo zbog institucionalnog kredibiliteta, baze tehničkih talenata i tržišnog utjecaja, upravo bi ta točka mogla postati sporna za druge svjetske sile. Europska unija, primjerice, već godinama prednjači s vlastitim sveobuhvatnim zakonodavstvom, poznatim kao AI Act. Taj zakon primjenjuje pristup temeljen na riziku, zabranjujući određene primjene AI-ja i namećući stroge zahtjeve za visokorizične sustave, s ciljem da postane globalni standard, što se često naziva "briselskim efektom".

Istovremeno, i Ujedinjeni narodi aktivno potiču dijalog, nedavno osnivajući tijela poput Međunarodnog znanstvenog panela o AI-u. Analitičari također upozoravaju da bi Hassabisov prijedlog, iako dobronamjeran, mogao nenamjerno ići na ruku velikim, etabliranim igračima poput Googlea. Visoki troškovi testiranja i usklađivanja s propisima prije objave modela mogli bi stvoriti značajne prepreke za manje startupe i projekte otvorenog koda, potencijalno gušeći inovacije izvan velikih korporacija.

Bilo kako bilo, prijedlog čelnika Google DeepMinda predstavlja jedan od najkonkretnijih pokušaja samoregulacije koji dolazi iz samog srca industrije. Dok se tehnologija približava točki koja bi mogla zauvijek promijeniti naš svijet, rasprava o tome tko postavlja pravila, tko ih nadzire i kako osigurati da razvoj ide u korist čovječanstva postaje važnija no ikad.