Dok stručnjaci raspravljaju o utjecaju novih AI modela na kibernetičku sigurnost, stižu nam vijesti koje savršeno ilustriraju obje strane te medalje. S jedne strane, Mozilla je objavila da je iskoristila rani pristup Anthropicovom AI modelu Mythos Preview kako bi pronašla i ispravila čak 271 ranjivost u svom novom pregledniku Firefox 150. S druge strane, jedna je grupa amatera pokazala da i najčuvaniji AI alati nisu nužno sigurni.

Mythos Preview AI model tvrtke Anthropic reklamiran je kao izuzetno moćan, gotovo opasno sposoban alat za pronalaženje sigurnosnih propusta u softveru. Toliko je moćan da je njegov tvorac pažljivo ograničio pristup. Ipak, grupa amaterskih detektiva s Discorda pronašla je relativno jednostavan način - bez potrebe za AI hakiranjem - kako bi dobila neovlašteni pristup upravo tom digitalnom dragulju.

Detektivski rad umjesto hakiranja

Unatoč naporima Anthropica da strogo kontrolira tko može koristiti Mythos, grupa korisnika s Discorda uspjela je pristupiti alatu primjenom jednostavnog "detektivskog rada". Prema pisanju Wireda, pregledali su podatke iz nedavnog sigurnosnog propusta tvrtke Mercor, startupa za obuku umjetne inteligencije, te na temelju toga "educirano pogodili online lokaciju modela". Vjeruje se da se ovo odnosi na pogađanje točne web adrese (URL-a) na temelju formata koje Anthropic koristi za svoje druge modele.

Cijeloj situaciji pomogla je i činjenica da je jedna osoba iz grupe navodno već imala određene dozvole za pristup drugim Anthropicovim modelima zahvaljujući svom radu za vanjsku tvrtku koja surađuje s Anthropicom. Kao rezultat svog istraživanja, navodno su dobili pristup ne samo Mythosu, već i drugim još neobjavljenim AI modelima. Ali, prema dostupnim informacijama, grupa je za sada koristila Mythos navodno samo za izradu jednostavnih web stranica - kako bi izbjegli da ih Anthropic otkrije. No, očito su se pohvalili svojim uspjehom na Discordu, kada su postali globalna vijest.