Cyber prostor danas sve više nalikuje Divljem zapadu na kojem sve vrvi prijetnjama i često nejasnim pravilima. U njemu neki drže oružje, dok drugi kopaju u potrazi za pozitivnim rješenjima i zaštitom. U takvoj stvarnosti se razvija i umjetna inteligencija – alat koji s jedne strane može biti šerif koji održava red, predviđa napade i reagira brže nego itko drugi. No, istovremeno može postati i odmetnik sposoban za prijevaru, sabotažu i manipulaciju.

Posebno to dolazi do izražaja razvojem nove generacije AI-a, odnosno agentske umjetne inteligencije, koja više ne čeka ljudsku naredbu već samostalno donosi odluke i poduzima akcije. Upravo je o tome na nedavno završenoj Span Cyber Security Areni govorio i američki stručnjak za cyber sigurnost Andy Thompson. Iza njega je gotovo 30 godina praktičnog iskustva u području IT-a i sigurnosti, a specijalnost su mu ofenzivna sigurnost i moderne prijetnje. Dio je tima CyberArk Labs u kojem pomaže u otkrivanju i analiziranju napadačkih tehnika te pomaže organizacijama da bolje predvide kibernetičke napade u budućnosti. Također je član Dallas Hackers Associationa, zajednice koja se bavi pitanjima kibernetičke sigurnosti.

Na Span Cyber Security Areni Thompson je održao predavanje o evoluciji umjetne inteligencije i njenoj ulozi u kibernetičkoj sigurnosti. „Ono što je počelo kao osnovni, predvidljivi alat brzo je postalo dvosjekli mač. U početku je umjetna inteligencija samo pomogla "braniteljima" da uoče abnormalnosti, a te anomalije ljudima obično promaknu jer se, iskreno, umorimo buljeći u podatke cijeli dan. No, sada i napadači koriste AI, primjerice, za stvaranje zlonamjernijeg softvera, automatiziranje napada krađe identiteta i zaobilaženje naših novousvojenih kontrola.“, ističe Thompson koji se zadržao i na onom pozitivnijem aspektu umjetne inteligencije, odnosno njenoj ulozi u obrani od napada.

„AI je sjajan u uočavanju sićušnih signala napada zakopanih duboko u brdima podataka, odnosno stvarima koje bismo vjerojatno previdjeli. No, ne samo da brže pronalazi prijetnje, već on postaje pametniji svaki put kad se nosi s napadom, što znači da je današnja AI obrana uvijek malo bolja od jučerašnje.“, tvrdi Thompson te dodaje kako AI također pojačava reakciju na incidente. Umjesto da se analitičari utapaju u lažnim upozorenjima, sustavi vođeni umjetnom inteligencijom automatski izoliraju kompromitirane uređaje ili brzo razvrstavaju stvarne prijetnje od buke. „To je kao da imate neumornog zaposlenika koji se nikada ne žali i s vremenom zapravo postaje pametniji.“, objašnjava Thompson koji se na svom predavanju dotaknuo i agentske umjetne inteligencije koja predstavlja veliki pomak u razvoju.

S velikom autonomijom dolazi i velika odgovornost

„Umjetna inteligencija temeljena na agentima sama uočava prijetnju, procjenjuje je i zatim poduzima akciju u vaše ime. Dok su stariji AI alati bili reaktivni i ograničeni unaprijed definiranim pravilima, novi autonomni agenti zapravo mogu razumjeti kontekst, odlučiti na licu mjesta i izvršiti više koraka samostalno. Na primjer, tradicionalna umjetna inteligencija može označiti neobičnu prijavu i prekinuti je. Ali AI koji se temelji na agentu mogao bi odmah zaključati kompromitirani račun, poništiti vjerodajnice i zatim pingati IT administratora.“, ističe Thompson, ali dodaje i kako s velikom autonomijom dolazi i velika odgovornost pa tako ova nova vrsta umjetne inteligencije zahtijeva jasan nadzor i granice povjerenja.

Deepfake Luke Modrića i koliko su prijetnje stvarne

A s agentskom umjetnom inteligencijom se opet vraćamo i na ranije spomenut dvosjekli mač jer ovakvu napredniju inteligenciju koriste i napadači. „S AI agentima napadači ne automatiziraju samo osnovne zadatke, već postavljaju i inteligentne sustave koji proaktivno traže mete, uče obranu u hodu i prilagođavaju strategije napada usred operacije. Generativni AI agenti stvaraju i phishing kampanje koje su tako realistične da se gotovo ne razlikuju od prave ljudske komunikacije.

Tehnologija Deepfake ide dalje, a u to se možemo i sami uvjeriti gledajući napadače kako vjerno oponašaju glasove izvršnih direktora i zavaravaju zaposlenike da im šalju novac. Uostalom, demonstrirao sam to i uživo na pozornici deepfakeom Luke Modrića, samo da pokažem koliko je ova prijetnja stvarna.“, pojašnjava Thompson te dodaje kako implementacija autonomnih AI agenata unutar sigurnosnih sustava poduzeća i dalje predstavlja popriličan rizik. To je, tvrdi Andy, kao da tinejdžeru date da vozi najnoviji sportski automobil jer ogromne su šanse da ta priča pođe po zlu. „Ovi agenti djeluju neovisno, što znači da ako umjetna inteligencija pogriješi, neće vam samo poslati upozorenje već može slučajno isključiti cijelu mrežu. Uz to, autonomni agenti dramatično povećavaju vašu površinu za napad jer imaju širok pristup bazama podatak i osjetljivim sustavima.

Ako napadači kompromitiraju umjetnu inteligenciju, odmah imaju savršen pristup i cijelom vašem okruženju. I naposljetku, ako stvari krenu u krivom smjeru, čeka vas bolno odgonetanje je li to bila ljudska pogreška ili je umjetna inteligencija samo odlučila pogriješiti.“, objašnjava Thompson uz zaključak da autonomna sigurnosna umjetna inteligencija može biti nevjerojatno moćna, ali moramo joj postaviti i neke čvrste sigurnosne ograde.

I pritom svi moramo imati na umu da smo jednostavno ušli u eru u kojoj je AI ozbiljan multiplikator sile za kibernetički kriminal. Napadači danas postižu daleko veću štetu uz dramatično manje truda i tako tjeraju branitelje u beskrajnu utrku da ostanu ispred. Upravo je zato, zaključuje Andy Thompson, AI istovremeno najveći saveznik i najstrašniji protivnik kibernetičke sigurnosti.