Europol upozorava da kriminalci već uvelike koriste ChatGPT
Otkako je pušten u javnost, veliki jezični model s chatbotom ne prestaje biti glavna tema. Kao i sa svakom tehnologijom, malo je potrebno da je se pokuša upotrijebiti i u maliciozne svrhe
Osim što su oko ChatGPT-a i sličnih jezičnih modela zabrinuti oni, kojima bi takvi sustavi mogli preuzeti radna mjesta, njihove napredne mogućnosti zabrinjavaju i agencija i organizacije zadužene za provođenje zakona. Upravo uslijed sve veće pozornosti, koju javnost pridaje jezičnim modelima umjetne inteligencije, Europol je u svojem Innovation Labu organizirao niz radionica, s ciljem da njihovi stručnjaci istraže kako se ChatGPT koristi u kriminalne svrhe.
Smatraju da će ovo istraživanje pomoći njihovim istražiteljima u svakodnevnim zadacima, jer će ih upoznati s novim malicioznim praksama. Izvješće proizašlo iz ovih radionica dostupno je i javnosti.
Tamna strana jezičnih modela
Kako rastu mogućnosti i područja primjene velikih jezičnih modela, njihova potencijalna primjena za zlonamjerne radnje također raste, a ono što u Europolu vide u budućnosti je zabrinjavajuće. Njihovi stručnjaci istaknuli su nekoliko područja, gdje bi AI sustavi mogli donijeti najviše promjena.
Kao prvo, tu su prevare i socijalni inženjering, pri čemu ChatGPT i slični sustavi omogućavaju stvaranje uvjerljivih tekstova, koji se potom koriste za phishing ili zavaravanje žrtava. Kriminalci sada lakše mogu uvjeriti svoje žrtve da one komuniciraju sa stvarnim osobama, a potom od njih izvući potrebne podatke, novac i slično.
Drugo istaknuto područje tiče se dezinformacija, budući da jezični modeli vrlo lako i brzo stvaraju uvjerljive tekstove sa željenim narativom i ne uvijek činjenično točnim informacijama. Naposlijetku, ističe se i klasični kibernetički kriminal, budući da ChatGPT ima i mogućnost stvaranja programskog koda. Već je primijećeno da se njime koriste hakeri, koji sada i bez mnogo tehničkog znanja mogu razviti maliciozne aplikacije.
Zaključci i preporuke
Kako će rasti prihvaćenost jezičnih modela i kako se njihov broj bude povećavao, Europol predviđa da će policije i istražitelji u cijelom svijetu morati postati svjesniji njihovih mogućnosti, kako bi bili u stanju predvidjeti i spriječiti zloupotrebu.
Kad je riječ o preporukama, Europol savjetuje prije svega podizanje svijesti o malicioznim primjenama ChatGPT-a i srodnih alata, za što se dokazi već mogu vidjeti u praksi. Istražitelji moraju već sada početi razvijati vještine, koje će im omogućiti prepoznati i spriječiti različite oblike kriminalne zloupotrebe velikih jezičnih modela. Tehnološki sektor, pak, i oni koji ulažu u ovakve sustave, morali bi u njih ugraditi, i konstantno unaprjeđivati sigurnosne mehanizme za borbu protiv neželjenih primjena.
