Nedugo nakon što su poslali otvoreno pismo Bijeloj kući i oko sebe okupili 50-ak kompanija iz svijeta umjetne inteligencije u borbi za otvorenost, Nvidia je sada s više od 30 tehnoloških partnera objavila osnivanje novog saveza pod nazivom Open Secure AI Alliance.

Alijansa za otvoren i siguran AI

Inicijativa okuplja globalne kompanije poput Microsofta, IBM-a, SpaceXAI-a, Della, Hewlett Packard Enterprisea i Hugging Facea te organizaciju Linux Foundation. Glavni je cilj udruženja razvoj i dijeljenje otvorenih tehnologija i alata koji će osigurati otkrivanje i otklanjanje sigurnosnih ranjivosti te omogućiti pouzdanu upotrebu sustava umjetne inteligencije. Među potpisnicima, zanimljivo, nisu neki od onih koje se danas smatra liderima u AI polju, a koji aktivno surađuju s Nvidijom – nedostaju (za sada) potpisi Anthropica, Googlea i OpenAI-ja.

Osnivanje saveza potaknuto je sve većom potrebom za otvorenim i transparentnim obrambenim sustavima u kibernetičkoj sigurnosti. Do osnivanja dolazi i u kontekstu nedavnog sigurnosnog incidenta u tvrtki Hugging Face, gdje su zatvoreni komercijalni modeli blokirali forenzičku analizu zbog sigurnosnih ograničenja.

Otvoreni resursi i alati

U sklopu ove inicijative Nvidia doprinosi otvorenim modelima, težinama modela, podacima te istraživačkim okvirom Nvidia Labs Object-Oriented Agent (NOOA), koji je već dostupan na GitHubu. Taj projekt omogućuje bolju integraciju, testiranje, praćenje i reviziju ponašanja AI agenata. Ostali članovi saveza također daju konkretne doprinose, uključujući standarde za kriptografsku provjeru, obrambene agente te sigurne formate za pohranu težina modela poput okvira Safetensors.

Osim tehničkih rješenja, članovi saveza uputili su poziv vladama i regulatornim tijelima da otvorene AI modele prepoznaju kao ključnu obrambenu imovinu, a ne kao rizik. Generičke ili potpune zabrane otvorenih sustava, upozoravaju u savezu, mogle bi oslabiti obrambene kapacitete i usmjeriti ovisnost na mali broj zatvorenih pružatelja usluga, naveli su u svojem otvorenom pismu prije nekoliko dana.

Obrana kroz suradnju

Članice inicijative naglašavaju da su za sveobuhvatnu sigurnost potrebni i zatvoreni i otvoreni modeli. Dok zatvoreni sustavi nude određene prednosti, otvoreni modeli omogućuju prilagodbu, lokalnu kontrolu i potpunu transparentnost koja je stručnjacima za sigurnost neophodna za analizu i brzu reakciju na napade.

Savez poziva industriju, istraživačku zajednicu i tijela javne vlasti na zajednička ulaganja u otvorenu obrambenu infrastrukturu, simulatore napada i okvire za procjenu, s ciljem stvaranja otpornijeg digitalnog ekosustava za sve korisnike.