U Hrvatskoj je za provedbu Opće uredbe o zaštiti podatka (GDPR) zadužena Agencija za zaštitu osobnih podataka (AZOP), a propisi o zaštiti podataka odnose se i na nove alate umjetne inteligencije, pa je stoga AZOP izdao preporuke za njezino korištenje. Nedavno su tako objavili smjernice za razvoj AI sustava, koje se tiču kompanija koje se time bave, a sada donose i službene preporuke za sigurno korištenje velikih jezičnih modela (LLM) i javno dostupnih chatbota temeljenih na njima.

Anonimizacija podataka

Glavna poruka Agencije usmjerena je na nužnost posebnog opreza prilikom unosa teksta, dokumenata ili slika u takve sustave. Istaknuto je kako bi korisnici trebali izbjegavati dijeljenje bilo kakvih informacija koje mogu dovesti do identifikacije pojedinaca, uključujući ne samo imena i OIB-e, već i kontekstualne detalje poput specifičnih životnih okolnosti, datuma, lokacija, opisa događaja ili brojeva sudskih predmeta.

Razlog za ovakve mjere predostrožnosti leži u činjenici da unosom podataka u LLM sustave može započeti nova obrada, nad kojom korisnik ili organizacija gube kontrolu. Podaci se često obrađuju na poslužiteljima vanjskih pružatelja usluga, pohranjuju u povijesti razgovora te se u određenim slučajevima mogu koristiti i za daljnje treniranje modela ili sigurnosne analize. Posebno se naglašava da puko uklanjanje imena i prezimena nije dovoljno, jer se identitet osobe često može rekonstruirati iz kombinacije različitih kontekstualnih podataka.

Preporuke za kompanije

Kada je riječ o radnom okruženju, AZOP naglašava da zaposlenici ne bi smjeli samostalno donositi odluke o korištenju javno dostupnih AI alata za obradu službenih podataka. Organizacije su dužne unaprijed procijeniti pravnu utemeljenost i sigurnosne aspekte takvih alata. Korištenje umjetne inteligencije za analizu internih dokumenata, ugovora, zdravstvenih ili financijskih podataka dopušteno je isključivo ako je proces organizacijski kontroliran i pravno utemeljen, uz prethodno informiranje ispitanika i ugovorno uređene odnose s pružateljem usluge.

Rizici neovlaštenog korištenja uključuju gubitak kontrole nad informacijama, obradu podataka u nepredviđene svrhe te moguće prijenose podataka izvan Europskog gospodarskog prostora. Dodatnu opasnost predstavljaju potencijalno netočni ili pristrani rezultati koje generira AI, a koji mogu negativno utjecati na prava pojedinaca ako se koriste u postupcima odlučivanja u zdravstvu, financijama ili javnoj upravi. Stoga se preporučuje da svaka organizacija donese internu politiku korištenja LLM alata kojom će jasno definirati dopuštene i zabranjene radnje.

Sigurnosne mjere i provjera

Posebno rizičnom praksom ocijenjeno je učitavanje strukturiranih dokumenata, poput tablica ili baza podataka, u javne AI sustave radi brze analize ili sažimanja. Takvi dokumenti često sadrže niz povezanih informacija o zaposlenicima ili klijentima, što značajno povećava opasnost od profiliranja i povrede povjerljivosti. Umjesto stvarnih podataka, AZOP savjetuje korištenje anonimiziranih verzija dokumenata i neutralnih opisa poput "osoba A" ili "zaposlenik", pod uvjetom da se ni iz takvog opisa ne može utvrditi identitet.

Agencija u svojim preporukama zaključuje kako bi se rezultati, koje generira umjetna inteligencija, trebali koristiti samo kao nacrti ili pomoćni materijali, uz obveznu kritičku provjeru prije daljnje uporabe. Korisnicima se savjetuje da unutar samih alata prilagode postavke privatnosti, isključe povijest razgovora i onemoguće korištenje svojih podataka za treniranje modela. Naglašeno je da dostupnost AI alata na internetu ne podrazumijeva automatski i zakonitost njihove uporabe za obradu osobnih podataka prema odredbama Opće uredbe o zaštiti podataka (GDPR).