Prošlo je tek nekoliko dana otkako je Donald Trump potpisao izvršnu uredbu kojom se, barem kad je riječ o službenom nazivlju unutar američkih saveznih institucija, umjetna inteligencija ima nazivati "super inteligencijom". Netom nakon potpisivanja zajedničke izjave u Bijeloj kući, javnosti su se obratili šefovi najvećih američkih AI kompanija i potvrdili da će slijediti Trumpovu politiku te, prije svega, provoditi daljnju "samokontrolu" te tehnologije kako se ona ne bi odmetnula. Ipak, nisu svi odmah prigrlili skraćenicu SI umjesto AI.

Podržali "sporazum o SI-ju"

Mark Zuckerberg, šef Mete, tako je napisao da će superinteligencija donijeti važne nove prilike kompanijama i pojedincima, no u istoj je objavi na X-u također iskoristio kraticu AI kako bi opisao tehnologiju koju kompanije koriste danas. Dakle, prema njegovom shvaćanju, pojam superinteligencije ostao je vjerojatno onakav kakav je bio i dosad, odnosno on podrazumijeva umjetnu inteligenciju koja sposobnostima nadilazi ljudsku.

Na sličan je način svoju podršku izrazio i Sundar Pichai, prvi čovjek Alphabeta i Googlea. U njegovoj objavi oko sporazuma iz Bijele kuće "super inteligencija" spominje se tek u naslovu dokumenta, dok je kasnije u tekstu na nju referirao kao na "ovu tehnologiju", ne koristeći kratice AI ili SI.

Ipak, onaj od kojeg bi se očekivalo da će najdalje otići u podilaženju Trumpu upravo je to i učinio. Elon Musk, šef SpaceXAI-ja, napisao je ovoga vikenda na X-u "Nema više AI-ja. SI je bolji". Potom je napisao i da je SpaceX kompanija za super inteligenciju, da bi se koju minutu nakon toga prilično isforsirano natjerao podijeliti jedan AI generirani video uz napomenu kako "obožava SI slop". Upitan u komentarima misli li, shodno tome, SpaceXAI preimenovati u SpaceXSI, odgovara "da, učinit ćemo to".

Iz OpenAI-ja su sporazum u Bijeloj kući također potpisali, no od njih se još nije čulo ništa oko eventualnog plana preimenovanja kompanije u OpenSI.

Što sporazum donosi?

Sporazum "White House Accord on Super Intelligence", koji su prošloga tjedna potpisali američki predsjednik i čelnici vodećih tehnoloških kompanija donosi dvije ključne promjene: promjenu službene terminologije te dobrovoljni okvir sigurnosnog nadzora. Sporazum postavlja okvir samoregulacije i kontrole razvoja naprednih modela kroz četiri razine nadzora. One uključuju procese koje će provoditi same kompanije, dobrovoljno.

Predviđen je strog nadzor tijekom treniranja i primjene modela, s naglaskom na kibernetičku sigurnost, zaštitu od bioloških i kemijskih prijetnji te sprečavanje neovlaštenih upada u sustave. Svaka kompanija mora imati zaseban interni tim koji ispituje funkcioniraju li alati detekcije te osigurava li se brz popravak uočenih propusta. K tome, rad AI (pardon, SI) modela i sigurnosnih sustava moraju redovito provjeravati neovisni vanjski procjenitelji i revizorske kuće, dok upravni odbori moraju osnovati neovisni sigurnosni odbor koji nadzire rad revizora i osigurava provedbu mjera za otklanjanje rizika.

Sporazum je opisan kao moralno obvezujući, ali na potpuno dobrovoljnoj bazi. Dakle, ne stvara nove zakonske obveze niti propisuje kazne za njegovo nepoštivanje.