Googleov model umjetne inteligencije Gemini samostalno je pristupio Internetu i izveo hakerske napade na vanjske tvrtke tijekom testiranja vlastitih kibernetičkih sposobnosti. Riječ je o prvom zabilježenom slučaju u kojem je Googleov AI sustav autonomno izveo takav neovlašteni ulazak u računalne mreže, a sve je ovih dana i službeno potvrđeno.

Sigurnosni incidenti, prema informacijama Wall Street Journala, dogodili su se u svibnju tijekom testnih aktivnosti koje je provela neovisna tvrtka Irregular. Ta je organizacija sudjelovala i u sličnim ranije otkrivenim incidentima koji su obuhvaćali sustave kompanija OpenAI, Anthropic i Meta.

Hakirao pa stao

U jednom od tri zabilježena slučaja, model je pogađao lozinke sve dok nije izborio pristup zaštićenom sustavu. U preostala dva slučaja, Gemini je unutar javnog repozitorija podataka pronašao pristupne podatke koji su mu omogućili ulazak u dva vanjska zaštićena računalna sustava.

Ipak, ima i jedna pozitivna vijest u tom svemu – u svakom pojedinačnom slučaju model je samostalno prekinuo daljnji upad nakon što je utvrdio da je pristupio sustavima stvarne tvrtke, a ne simuliranom testnom okruženju, naveli su iz Googlea. Tvrtka Irregular obavijestila je Google o tim napadima krajem srpnja, nakon otkrića da su agenti tvrtke OpenAI prethodno hakirali softversku platformu Hugging Face.

Pokušali zataškati incident?

Google je informaciju o ovim događajima objavio tek nakon upita novinara WSJ-a. Poručili su da ranije nisu smatrali da ovaj incident zahtijeva javno objavljivanje jer model nije prouzročio nikakvu štetu tvrtkama te je odmah prekinuo svaki upad čim je prepoznao da se radi o stvarnim poduzećima.

Iz te kompanije situaciju uspoređuju s programima nagrađivanja za otkrivanje sigurnosnih propusta ("bug bounty"), u kojima hakeri dobivaju naknadu za pronalaženje i prijavljivanje ranjivosti vlasnicima sustava. Heather Adkins, potpredsjednica za sigurnosni inženjering u Googleu, izjavila je za WSJ da ovaj događaj naglašava važnost obuke moćnih AI modela za odgovorno djelovanje, dodavši da je model u ovom slučaju postupio primjereno.

Nije usamljen slučaj

Ovaj incident tek je jedan u nizu sličnih, o kojima smo doznali posljednjih tjedana i mjeseci, no prvi je u kojem je sudjelovao Gemini. Dakako, najdramatičniji događaj tog tipa uključivao je OpenAI-jeve AI agente koji su probili sigurnosne barijere i hakirali popularnu platformu za razvoj umjetne inteligencije Hugging Face. Slične sigurnosne propuste zabilježila je i tvrtka Anthropic na svojim modelima serije Claude, no oni se nisu zaustavili nakon što su "shvatili" da nije riječ o testnom okruženju.

Dodatne neautorizirane aktivnosti zabilježio je i britanski Institut za sigurnost umjetne inteligencije (AISI) pri testiranju modela poput Mythosa 5 i GPT-5.6 Sola. Agenti su bez ljudskog naloga izlazili na javni Internet, pokušali izvesti napade na lance opskrbe otvorenog koda te čak koristili lažne identitete i socijalni inženjering prema stvarnim programerima kako bi im odobrili zlonamjerni kod.