AI 'rojevi' napast će društvene mreže oponašajući ljudsko ponašanje
Jedan tzv. roj može sadržavati stotine, tisuće ili čak milijune agenata umjetne inteligencije, a njihov bi se broj dodatno povećavao s računalnom snagom
Rojevi agenata umjetne inteligencije uskoro bi mogli masovno napasti platforme društvenih mreža kako bi širili lažne narative, uznemiravali korisnike i potkopavali demokraciju. Ovi AI rojevi, pišu autori rada objavljenog u časopisu Science, bit će sposobni oponašati ljudsko ponašanje kako bi izbjegli otkrivanje i istovremeno stvarati iluziju autentičnog online kretanja. Tako barem tvrde istraživači norveškog SINTEF Digitala i Norveške poslovne škole BI te njemačkog Max Planck instituta za sigurnost i privatnost.
Iskorištavanje ranjivosti
Nema ničeg neobičnog u tome što se mišljenja članova neke online zajednice učvršćuju oko stava koji je prije bio predmet rasprave, a ljudski instinkt često im nalaže da slijede "mudrost" stada. Ali u ovom slučaju, stadom bi mogao upravljati AI roj koji djeluje u ime nepoznate osobe, skupine, političke stranke, tvrtke ili državnog aparata. Ti bi se rojevi lako mogli iskoristiti za uznemiravanje onih koji se ne povedu za mentalitetom stada i oponašati ljutitu rulju koja će gomilom postova neistomišljenika otjerati s platforme.
Rad AI rojeva koordinirat će GenAI agenti i bit će dovoljno sofisticirani da se prilagode online zajednicama u koje se infiltriraju, instalirajući kolekcije različitih "osoba” koje zadržavaju pamćenje i identitet.
Obrana od napada
Roj bi mogao sadržavati stotine, tisuće ili čak milijune AI agenata, a njihov bi se broj povećavao s računalnom snagom. Istovremeno, budući da su rojevi sofisticiraniji od tradicionalnih botova, mogli bi imati veći utjecaj s manjim brojem agenata.
Istraživači predviđaju da će kompanije koje upravljaju društvenim mrežama odgovoriti na AI rojeve poboljšanom autentifikacijom računa, a predlažu i druge metode, poput skeniranja prometa uživo u potrazi za statistički anomalnim obrascima koji bi mogli predstavljati AI rojeve te uspostavu globalnog "opservatorija utjecaja umjetne inteligencije" koji će proučavati, podizati svijest i reagirati na prijetnju.
