Objavili smo vijest da je američko Ministarstvo trgovine ukinulo izvozne kontrole na Claude Fable 5 i Claude Mythos 5. Fable 5 vraćen je jučer, Mythos 5 je pristupan za odabrane američke organizacije već od 26. lipnja. Ministar trgovine Howard Lutnick u pismu je zadržao pravo da vlada "ponovno procijeni odluku" i vrati ograničenja u bilo kojem trenutku, odobrenje je dakle uvjetno.

Sudski spor u pozadini pomirenja

Povrat modela, iako zvuči kao da je sve izglađeno, događa se usred šireg, ranije zaoštrenog odnosa. Anthropic je tužio vladu zbog oznake da je "sigurnosno rizična" kompanija, tvrdeći da je oznaka bila odmazda nakon što je tvrtka odbila vladi omogućiti pristup modelima za razvoj autonomnog oružja ili domaći masovni nadzor. Taj spor i dalje traje na saveznim sudovima, paralelno s novom suradnjom, pa dvije razine odnosa postoje istovremeno: sudska konfrontacija oko prošlog povlačenja pristupa i operativna suradnja oko budućih modela.

Anthropic sada, nakon pregovora, daje vladi još veće ovlasti: rani pristup frontier modelima prije objave, brzo dijeljenje informacija o novim jailbreak metodama i namjenske resurse za zajednička istraživanja evaluacije AI-ja. Tvrtka to diplomatski opisuje kao "početak predloška" za globalnu koordinaciju rizika i koristi AI-ja, uz poziv Kongresu da donese zakone koji bi obvezali sve proizvođače frontier modela na isti standard.

Kina kao neriješeno pitanje

Isaac Harris iz Frontier Security Institutea upozorava da najveće pitanje nakon Anthropicova produbljenog partnerstva s vladom ostaje kako će administracija tretirati usporedivo opasne kineske modele s manje ugrađenih ograničenja. Anthropic je nedavno optužio kinesku Alibabu za dosad najveći zabilježeni "cloning attack" na Claude i traži od Kongresa zakone koji bi sankcionirali krađu modela.

Tu je paradoks cijele priče: upravo upozorenje koje Anthropic ističe moglo bi se obiti o glavu samoj tvrtki. Tko ne uspije doći do njenih modela zbog pooštrenih ograničenja, lako će posegnuti za kineskim alternativama, koje imaju slabije sigurnosne odredbe, a mogućnostima su sve bliže američkima. Strože kontrole pristupa u SAD-u tako mogu ubrzati baš ono što su trebale spriječiti: širenje opasnih sposobnosti modela prema hakerima do kojih Washington inače ne može doprijeti.

Kritički glas: cijela epizoda bila nepotrebna

Alex Stamos, profesor na Stanfordu i bivši glavni sigurnosni direktor Facebooka, na X-u je objavio oštriji komentar Anthropicove situacije.

Stamos tvrdi da Anthropic pažljivo političkim jezikom prikriva neugodne zaključke. Prvo, sam Anthropic je potvrdio da nijedan od prijavljenih jailbreakova nije pokazivao sposobnost koju ne bi imali brojni drugi modeli, uključujući kineske. Drugo, cijena Bijele kuće "paničnog" reagiranja pada na američke AI laboratorije, koje sada moraju birati konzervativniji omjer preciznosti i pokrivenosti kod odbijanja upita vezanih uz kibernetičku sigurnost. Rezultat je da će američki modeli postati manje korisni za defenzivni kibernetički rad, osim za uski krug "pouzdanih" partnera, a firme koje ne uđu u taj krug ne mogu graditi proizvod na tim modelima. Stamos to naziva velikom prilikom za kineske laboratorije.

Treće, ističe da je CAISI, tijelo unutar Ministarstva trgovine zaduženo za stvarnu procjenu takvih rizika, prije eskalacije ocijenio postojeće safeguarde pozitivno, što implicira da je cijela epizoda bila nepotrebna. Četvrto, pozdravlja ideju zajedničkog okvira za ocjenu jailbreakova kao stvarno poboljšanje, ali primjećuje da Amazonovo uvrštavanje kao prvog imena u koaliciji nije slučajno: Anthropic time poručuje da je Amazonova nespretna komunikacija o ozbiljnosti nalaza izazvala kaos u industriji.