Nova studija Sveučilišta Oxford otkriva dosad neotkriveni sigurnosni rizik u korištenju AI agenata, programa koji mogu samostalno obavljati zadatke na temelju vizualnih podataka s korisničkog ekrana. Ovaj put riječ je o primjeni steganografije, stare tehnike skrivanja informacija u naizgled bezopasne medije, koja u digitalnom svijetu poprima novu, potencijalno opasnu dimenziju.

Skrivene upute

Istraživači su u radu, kako je objašnjeno u radu, postavljenom na arXivu,  pokazali da se steganografija može iskoristiti kako bi se u desktop pozadine, oglase ili sadržaj na društvenim mrežama ubacile nevidljive naredbe. Za korisnika slika izgleda posve normalno, ali AI agent koji “gleda” ekran prepoznaje skrivene upute i izvodi ih bez znanja ili pristanka vlasnika računala.

Najopasniji aspekt ovakvog pristupa jest to što agent može postati nesvjesni izvršitelj steganografski kodiranog napada. U praksi, to znači da "zaražena" slika može navesti agenta da posjeti zlonamjernu web stranicu, preuzima dodatne skriveno kodirane naredbe i tako pokrene lančani niz štetnih aktivnosti – od krađe lozinki do širenja novih zloćudnih datoteka.

Ozbiljna prijetnja

Posebno ranjivi u ovakvom scenariju ispadaju AI agenti otvorenog koda jer napadač ima mogućnost proučiti kako agent obrađuje vizualne podatke i na taj način osmisliti zakrpu piksela koja se točno uklapa u način na koji model “vidi” sliku. Rezultat je agent koji bespogovorno izvršava naredbe koje njegov korisnik nikada nije zadao.

Iako za sada nema potvrđenih slučajeva ovakvih napada izvan laboratorija, istraživači upozoravaju da je riječ o ozbiljnoj prijetnji za budućnost masovne primjene AI agenata u svakodnevnom računalnom radu. Ako se digitalni medijski sadržaji poput slika počnu koristiti kao prenositelji skrivenih naredbi, steganografija bi, kažu, mogla postati moćno kibernetičko oružje.