Hakerska skupina kompromitirala AI alate, Microsoft reagirao tužbom

Microsoft je otkrio neovlašteno zaobilaženje sigurnosnih mjera u svojim alatima generativne umjetne inteligencije, pa podigao tužbu protiv deset nepoznatih počinitelja koji su preprodavali pristup

Sandro Vrbanus nedjelja, 12. siječnja 2025. u 14:00
📷 DALL-E
DALL-E

Iz Microsofta su na službenom kompanijskom blogu objavili da su podigli tužbu protiv nepoznatih počinitelja, za koje je utvrđeno da su javnosti davali otvoren pristup do njihovih modela generativne umjetne inteligencije, ali bez uključenih sigurnosnih i zaštitnih mjera. Njihova je istraga pokazala da je riječ o skupini od deset kibernetičkih kriminalaca, koji su uspjeli kompromitirati nekoliko korisničkih računa za GenAI alate, osmislili metode zaobilaženja implementiranih sigurnosnih mjera, pa takav "slobodni" pristup alatima preprodavali dalje.

Zloporaba tehnologije

Cilj je bio omogućiti "klijentima" pristup do alata, koji su bez zaštite omogućavali stvaranje ilegalnog, uvredljivog i štetnog sadržaja. Microsoft ne navodi točno o kojim je alatima riječ, no svojom tužbom žele poslati snažnu poruku da se korištenje AI modela i tehnologije u takve svrhe neće tolerirati. U tužbi se navodi da je sve organizirala kriminalna skupina smještena izvan SAD-a. Nakon otkrivanja njihovih metoda zaobilaženja pravila i sigurnosnih mjera, uvedene su nove mjere kako bi se spriječilo ponavljanje sličnih napada.

Screenshot sučelja koje je nudila ilegalna stranica 📷 Microsoft
Screenshot sučelja koje je nudila ilegalna stranica Microsoft

Tužba navodi da su aktivnosti ove skupine izravno u suprotnosti s američkim zakonima, pravilima prihvatljivog korištenja te primjerenog ponašanja na svim Microsoftovim platformama. Sud je kompaniji omogućio čak i preuzimanje internetske stranice, kojom su se napadači koristili, kako bi se odatle prikupili dodatni dokazi o malicioznim aktivnostima.

"Svakoga dana pojedinci koriste generativne AI alate kako bi unaprijedili svoje kreativno izražavanje i produktivnost. Nažalost, kao što je bio slučaj i s pojavom drugih tehnologija, prednosti tih alata privlače i one koji žele iskoristiti i zlorabiti tehnologiju i inovacije u zlonamjerne svrhe", pojašnjavaju svoju tužbu, za koju kažu da ima svrhu zaštiti javnost od negativnog utjecaja umjetne inteligencije.

Shema rada ilegalnog serivsa 📷 Microsoft
Shema rada ilegalnog serivsa Microsoft

Prema šturim informacijama dostupnima u ovom trenutku, "usluga" koju su hakeri pokrenuli nazivala se de3u, a nudila je pristup njihovom alatu za generiranje ilustracija (Creator, pogonjen sustavom DALL-E OpenAI-ja). Ubacivanjem proxyja između korisnika i tog alata te korištenjem sofisticiranih metoda iskorištavanja tuđih podataka za prijavu, stvorena je usluga koja "otključava" inače zabranjene načine korištenja te usluge.