Sredinom 2022. godine u europskoj se zakonodavnoj proceduri pojavio prijedlog "Uredbe Europskog parlamenta i Vijeća o utvrđivanju pravila za sprečavanje i suzbijanje seksualnog zlostavljanja djece". Bio je to opsežan plan kojim bi se dodatno nadzirale tehnološke kompanije i njihove komunikacijske platforme, kako bi se umanjili rizici od zlostavljanja maloljetnika putem zloupotrebe aplikacija za dopisivanje, kojima se dijele različiti nepoćudni i ilegalni sadržaji. No, kako znamo iz dosadašnjih iskustava, svaki takav prijedlog neupitno za sobom povlači i pitanja o privatnosti – jer se otvaranje komunikacijskih platformi za vanjski nadzor ne može provesti selektivno.

Tako je i Apple prije koju godinu bio najavljivao uvođenje alata za skeniranje sadržaja na iCloudu i unutar privatnih poruka, kako bi otkrio dječju pornografiju i slične ilegalne sadržaje. Ipak, zbog velikih kritika od toga su odustali, a gdje su oni stali, nastavila je Europska komisija. Prema njima, nova regulativa trebala bi pomoći u otkrivanju, prijavljivanju i sprječavanju slučajeva seksualnog zlostavljanja djece online. Prijedlog pravila tako je predviđao i da pružatelji usluga moraju prijaviti seksualno zlostavljanje djece na svojim platformama i upozoriti nadležna tijela kako bi se predatore moglo privesti pravdi.

Slabljenje enkripcijske zaštite

Kako bi se to u praksi provelo? Ukidanjem snažne end-to-end enkripcijske zaštite i uvođenjem "stražnjih vrata", kojima bi se osiguralo da se komunikacija na aplikacijama za dopisivanje i društvenim mrežama mogla nadzirati. Zbog te je činjenice prijedlog vrlo brzo postao metom kritika, protiv njega su digli glas brojni aktivisti i organizacije, a dobio je i nadimak "chat control".

Glavna karakteristika ovog prijedloga je obveza pružatelja usluga za razmjenu poruka da prate privatne razgovore kako bi prepoznali sumnjivi sadržaj. To podrazumijeva upotrebu tehnologije za pretragu poznatog ilegalnog materijala i prijavu takvog sadržaja odgovarajućim tijelima. Predložene regulative predviđaju i uporabu umjetne inteligencije za prepoznavanje dosad nepoznatih slika ili tekstualnih poruka zlonamjerne prirode.

Zakonodavni ping-pong

Prema predloženim regulativama, pružatelji usluga morali bi instalirati nadzorni softver koji skenira komunikaciju korisnika. Tehnološki proces podrazumijevao bi prepoznavanje obrazaca i poznatih zlostavljačkih materijala, kao i mogućnost otkrivanja novih prijetnji putem AI algoritama. Zbog niza kontroverzi i opiranja od strane aktivista za privatnost, prijedlog Uredbe do današnjih dana nije prihvaćen.

S vremena na vrijeme njegova se ublažena verzija pojavi na dnevnom redu, a Komisija i Vijeće oko njega se i dalje ne mogu dogovoriti. Naime, prošle godine objavljeno je i pravno mišljenje Vijeća, prema kojem je aktivno skeniranje privatnih poruka nespojivo s europskim pravom, pa bi – sve i da bude prihvaćen – prijedlog Uredbe vrlo brzo bio pravno osporavan.

Uz nezavisne aktiviste, kompanije kao što su Signal i Threema izrazile su oštro protivljenje prijedlogu, nagovijestivši mogućnost povlačenja svojih usluga iz EU. Oni ističu da bi kompromitiranje end-to-end enkripcije predstavljalo značajan udarac na sigurnost i privatnost njihovih korisnika. Da bi nadzor poruka mogao obezvrijediti sigurnost komunikacijskih sustava, a stvarni bi kriminalci ipak pronašli načine da izbjegnu detekciju, smatra i bivši europarlamentarac njemačke Piratske stranke Patrick Breyer, najglasniji protivnik "chat controla".

Tijekom belgijskog predsjedanja Vijećem u proceduru je bio pušten i novi ublaženi prijedlog Uredbe, no većina koja bi ga izglasala i poslala na daljnje odlučivanje Europskom parlamentu nije pronađena. Nakon kraja belgijskog predsjedništva glasanje o prijedlogu odgođeno je do daljnjega – a možda i zauvijek. "Opasnost" od usvajanja regulative i dalje nije prošla, upozoravaju aktivisti, jer trenutačno Vijećem predsjeda Mađarska, njezina snažna zagovornica. Mađari su ranije najavili da će pokušati pronaći kompromis i vratiti pitanje na stol. Hrvatska, ako ste se pitali, neslužbeno podržava "chat control" regulativu.