Autor ovoga teksta uz silan trud nije uspio na Youtubeu ili sličnim servisima pronaći jednu Nissanovu reklamu o budućnosti autonomnih vozila kao usluge koju bi inače linkao uz ovaj tekst. Prije otprilike sedam godina u Zagrebu smo na Pravnom fakultetu organizirali jedan skup na temu autonomnih vozila u svim modalitetima prijevoza. Kao goste smo doveli nekoliko kolegica i kolega sa Sveučilišta u Tokyu koji su već tada za japansku Vladu i konglomerat japanskih kompanija radili na pravnom okviru za automatizirana motorna vozila. Pokazali su nam tu reklamu koje se još uvijek relativno dobro sjećam i koja je, otprilike, išla kako slijedi.

Čovjek izlazi iz zgrade gdje radi. Istovremeno, stiže autonomno vozilo, čovjek ulazi u vozilo (naravno, vrata se sama otvaraju i zatvaraju), vozilo posredstvom biometrijske identifikacije odmah potvrđuje identitet putnika i čestita mu rođendan njegove kćerke koja se upravo iz škole sprema krenuti prema doma. Vozilo obavještava oca kako je već poslan drugi autonomni taxi po njegovu kćer – bez da je otac to izričito zatražio prethodno ili prilikom ulaska u vozilo – i kako očekuje da će oboje kući stići u isto vrijeme.

Dakle, vozilo ne samo da prepoznaje putnike/klijente, već zna i njihove obrasce ponašanja te ne samo da predviđa potrebite usluge prijevoza već i postupa temeljem takvog predviđanja bez prethodno izražene volje korisnika prijevoza (automatizirano odlučivanje u vezi pružanja usluge prijevoza). U tom trenutku naslućujemo da čovjek nije zvao taxi već je robotaxi samostalno ocijenio kada će usluga prijevoza biti potrebna. Možda poslodavac dijeli neke podatke o zaposlenicima temeljem kojih kompanija koja pruža robotaxi uslugu automatiziranim procesuiranjem tako zaprimljenih podataka i cross-referencom tih podataka sa uobičajenim ponašanjem i kretanjem istog zaposlenika (usluga koju pružaju data brokeri) točno predviđa trenutak kada će usluga prijevoza biti potrebna (svaki dan individualno). Isto tako, možda je čovjek jednostavno rob navike i svaki dan u isto vrijeme zove taxi, pa je robotaxi samostalno ocijenio da neće puno pogriješiti ako se u to vrijeme neovisno o prethodnom pozivu pojavi ispred zgrade gdje čovjek radi i ugodno iznenadi čovjeka prije nego što je uopće i posegnuo za mobitelom. Isto vrijedi i za kćer koja svaki dan ide u školu i iz škole ovisno o školskom rasporedu koji je poznat ocu, ali, čini se, i kompaniji koja pruža uslugu robotaxi prijevoza. Zanimljivo.

Putnik/otac je zadovoljan te bez riječi kima glavom i fokusira se na veliki ekran ispred sebe gdje upravo počinje sa emitiranjem njegova omiljena tv serija, taman na dijelu gdje ju je sinoć prestao gledati. Vozilo raspolaže i s takvim podacima, odnosno povezano je, neizravno, sa svim pametnim uređajima koje klijent koristi. Vozilo ne samo da raspolaže sa brojnim podacima o klijentu, već zna i procijeniti što klijent voli raditi u kojem trenutku, i što bi, primjerice, klijentu najviše odgovaralo nakon cijelog dana na poslu. Omiljena serija naravno, i malo mira. Ujedno, primjećujemo kako vozilo nije nužno samo povezano sa pametnim uređajima tekućeg klijenta, već i sa drugim osobama odnosno njihovim uređajima koje stoje u neposrednoj vezi sa klijentom. Kćer, naime, u drugom autu već gleda omiljene videospotove. Čini se da data brokeri u budućnosti imaju puno posla (pardon, ne u budućnosti nego već danas, odnosno, odavno).

„Oprostite na smetnji“ poniznim glasom javlja se vozilo svome putniku. Ovdje nije riječ o komunikaciji između udaljenog operatera i putnika, već sustav umjetne inteligencije u vozilu nastupa ljudskim glasom i izravno komunicira sa putnikom. Vozilo je svjesno da putnik želi mir, no algoritam je izračunao kako postoji legitiman interes za kontaktiranjem putnika obzirom na potencijalne benefite koji će, za obje ugovorne stranke, iz toga potencijalno proizaći. „Obzirom kako je Vašoj kćeri danas rođendan, možda bi ju razveselilo kada biste ju po povratku iz škole iznenadili sa njezinom omiljenom tortom? Slastičarnica koja radi tortu na putu je prema Vašem domu te zahtjeva tek minimalnu korekciju rute uz minimalno odstupanje od predviđenog trenutka dolaska“. Putnik uspavanoga lica uronjenog u seriju lagano podiže obrve, a neprimjetni titraj osmijeha pojavljuje se uz gornju usnicu. „Hai.“ I to je to.

Vozilo odnosno sustav umjetne inteligencije u vozilu samostalno kontaktira slastičarnicu i naručuje izradu omiljene torte. Navedena slastičarnica je otprije poznata sustavu robotaxija koji, čini se, zna sve ne samo o klijentu već i o njegovoj kćeri. Vozilo samostalno plaća tortu (kako bi pravnici rekli) u ime i za nalog naručitelja, u ovom slučaju klijenta koji je ponovno uronjen u seriju i nije zainteresiran baviti se tričarijama kao što su googlanje adrese i broja telefona slastičarnice, i telefonskog naručivanja odnosno plaćanja. U trenutku kada vozilo dolazi ispred slastičarnice torta je već, pogodili ste, spremna za preuzimanje (možda je 3D ispisana?). Otac izlazi iz automobila, primjetno zadovoljan (tko ne bi bio!) i ulazi u slastičarnicu kako bi pokupio tortu (u Nissanu se nisu sjetili da postoje roboti koji mogu vršiti last mile dostavu, pa to nisu unijeli u reklamu; kakav harakiri-level propust!), dok vozilo radi krug oko bloka kako ne bi stvaralo nepotrebnu gužvu u prometu. U trenutku kada otac izlazi iz slastičarnice vozilo se ponovno zaustavlja i otvaraju se vrata – kao u reklami! Ostatak vožnje prolazi ugodno (inače je prostor robotaxija jako ugodan i prostran jer ima puno više prostora za putnike obzirom da nema vozača, volana, pedala, mjenjača, i sl.), i, kako je najavljeno na početku vožnje, dva robotaxija paralelno ulaze u dvorište obiteljske kuće. Iz prvoga izlazi nasmijana kćer koja je provela vožnju gledajući omiljene muzičke spotove (baš kao i svaki dan), a iz drugoga nasmijani i razdragani otac noseći najbolji mogući poklon slatkog iznenađenja za svoju kćer.

I, "kick" na kraju – vožnja je i za oca i za kćer besplatna (osim torte koju je otac ipak morao platiti; negdje ipak treba podvući crtu ili postaje too good too be true). Dapače, sve robotaxi vožnje su besplatne, neovisno o tome tko stoji iza te usluge. Možda je riječ o kompaniji koja posjeduje flotu robotaxija kao što je danas to Waymo ili Cruise. Isto tako, možda je riječ o samostalnom podizvođaču – primjerice, vlasnik automatiziranog vozila koje u slobodno vrijeme taksira kako bi pokrilo hladni pogon vozila ili obrtnik pojedinac koji održava nekoliko takvih vozila – koji koristi posredničke usluge krovne kompanije (po uzoru na ono što je Uber želio biti, ali nije) i ubire svoj postotak od druge vrste naplate. Naime, neovisno o tome tko konkretno obavlja samo uslugu prijevoza, naplata se vrši ciljanim oglašavanjem tijekom vožnje, ostvarenim narudžbama ili kupnjama tijekom vožnje ili posredstvom vožnje, odnosno prikupljanjem, obradom i dijeljenjem (čitaj prodajom) podataka o korisnicima usluge. Netko bi čak mogao zaključiti kako u biti ovdje ni nije riječ o besplatnom prijevozu.

No, što god netko mislio o tome (a o tome mislimo u nastavku teksta), japanska vizija rješavanja brojnih problema koji se vežu uz promet, od prometnih gužvi do zagađenja, usmjerena je na flote automatiziranih vozila koje vrše funkciju javnog prijevoza i čine je dostupnom odnosno besplatnom za sve građane. Ideja besplatne usluge koja se „plaća“ podacima nije novitet – zamislive su i druge vrste besplatnog sadržaja ovoga tipa kao što je to primjerice neki besplatni Netflix ili Spotify-like servis koji se bavi analizom podataka u vezi sadržaja na usluzi i korisnika usluge, te njihovom komercijalnom eksploatacijom. Također zamislivi su i besplatni proizvodi; primjerice, u Americi je nedavno jedan proizvođač TV-a predstavio „besplatni“ model televizora na kojem se vrte reklame koje nije moguće ukloniti (malo podsjeća na jedan često korišteni OS), pa tko voli nek' izvoli. Pretpostavka za opisanu vrstu usluge taxi prijevoza koju djelomično već i vidimo na američkim i kineskim ulicama (ne u besplatnoj varijanti) jest i adekvatna politika privatnosti i korištenja osobnih podataka koja mora pomiriti interese privatnog i komercijalnog, odnosno privatnog i javnog. U iduća dva teksta baviti ćemo se upravo ovom problematikom.

Podaci svuda, svuda oko nas

Kada je riječ o prikupljanju podataka unutar i izvan vozila, korisno je za početak osvrnuti se na standardne operacije prikupljanja podataka i njihov utjecaj na problematiku politike privatnosti osobnih podataka, poglavito kada je riječ o podacima koji se prvenstveno prikupljaju u svrhu normalnog funkcioniranja rada naprednih sustava ispomoći u vožnji odnosno sustava automatizirane vožnje.

S jedne strane, potrebno je zapitati se u kojoj su mjeri podaci o vozilu (karakteristike vozila, upotreba vozila, i sl.), podaci o vlasniku odnosno korisniku vozila te putnicima u vozilu (osobni podaci, način korištenja, način ponašanja u vozilu, i sl.), te podaci koji se prikupljaju izvan vozila (podaci o infrastrukturi, podaci o prometu, podaci o osobama i objektima koje se nalaze uz prometnicu, i sl.) relevantni za uredno funkcioniranje pametnih aplikacija u motornim vozilima na koje se u manjoj ili većoj mjeri naslanjaju sustavi automatizirane vožnje.

Kada je riječ o korištenju sustava automatizirane vožnje, napredni sustavi u ispomoći u dinamičkom upravljanju vozilu ovise o podacima o prometu koje kontinuirano prikupljaju i temeljem koji donose određene automatizirane odluke. U tom smislu se postavlja pitanje u kojoj mjeri takvi sustavi nužno zahtijevaju korištenje „sirovih“ podataka, odnosno je li u svrhu izvođenja operacija dostatno koristiti anonimizirane ili pseudonimizirane podatke. Navedeno je također bitno u trenutku provjere ponašanja sustava i preispitivanja podataka na temelju kojih je sustav donosio određene odluke. Isto pitanje također je bitno kada se radi na unapređenju samog sustava, osobito u vezi treniranja algoritama.

Kada je riječ o potrošačima – vlasnicima vozila odnosno korisnicima vozila (vozači, putnici) – također je nužno procijeniti u kojoj mjeri takve osobe imaju utjecaja na podatke koje vozila i sustavi umjetne inteligencije u i izvan vozila kontinuirano prikupljaju i obrađuju. Ujedno, bitno je i za ocijeniti mogućnost šire baze tzv. ispitanika (osoba čiji se osobni podaci obrađuju) da budu upoznati sa metodama i svrhama prikupljanja podataka izvan vozila te utječu na obrađene osobne podatke. Primjerice, kada se mapira određena trasa ili dio grada na kojem će se izvoditi testne vožnje vozila sa određenom razinom autonomije, postavlja se pitanje koji se odnosno čiji se sve podaci u tu svrhu prikupljaju, za što se točno koriste, brišu li se trajno nakon nekog vremena ili ostaju pohranjeni na neodređeno vrijeme, dijele li se s nekim, i ako da, kako ta treća osoba i na koji način sa tim podacima postupa.

Također, interesantno je i zapitati se u kojoj mjeri prikupljeni podaci o, primjerice, vlasniku vozila, utječu na prodaju vozila, odnosno, u kojoj mjeri takvi podaci postaju sastavni dio karakteristika vozila i time potencijalno ostaju uz vozilo neovisno o promjeni vlasnika.

Kao zasebno pitanje, pod pretpostavkom da viši sustavi automatizirane vožnje ovise o sposobnosti povezivosti sa vlasnicima/korisnicima vozila izvan vozila odnosno komunikacije sa istima u vozilu, povezivosti sa proizvođačima vozila ili određene opreme (tzv. backend operatori), te povezivosti sa pružateljima različitih usluga u vezi infrastrukture i prometa (primjerice, pružatelji usluga digitalne cestovne infrastrukture, mrežne povezivosti, kibernetičke zaštite, i sl.) potrebno je zapitati se u kojoj mjeri svako vozilo treba ili mora sadržavati konstantan ili dinamički identifikator, a što u konačnici utječe i na identifikaciju odnosno praćenje kretanja vlasnika odnosno korisnika vozila.

Say cheese, it's autonomous vehicle!

Motorna vozila opremljena određenim sustavom automatizirane vožnje u sebi sadrže jedan ili više mehanizama prikupljanja podataka izvan vozila. Podaci koji se prikupljaju odnose se na stanje u prometu (kretanje vozila i drugih prometnih objekata, kretanje pješaka, stanje prometnica, meteorološke okolnosti, i sl.) klasifikaciju individualnog sudionika u prometu (vozilo, osoba, biciklist, i sl.), klasifikaciju objekata uz prometnice, događanja uz prometnice, i sl. Takva obrada podataka redovito bilježi čitav niz osobnih podatka sudionika u prometu odnosno osoba koje se nalaze na trasi prometovanja motornog vozila sa izvanjskim senzorima. Iako takvi podaci nisu od naročitog interesa za samog vlasnika odnosno korisnika vozila osim kada se njima koriste dok sami vrše dinamičko upravljanje vozilom, oni su nužni za normalno funkcioniranje sustava automatizirane vožnje. U tom smislu, kada vlasnici odnosno korisnici motornog vozila pristupaju takvim podacima, obično je riječ o anonimiziranim podacima (primjerice, digitalni ekran prikazuje modele vozila, osoba, prometnica i zgrada umjesto stvarne prikaze vozila, tablica, lica, natpisa na zgradama, i sl.). Istovremeno, kada se takvi podaci koriste za treniranje algoritma, anonimizirani podaci nisu od previše koristi, te je često potrebno koristiti sirove snimke, osobito kada razvojni programeri moraju ručno intervenirati u slučaju false positive ili false negative situacija te unaprjeđivati bazu podataka za strojno učenje. Poglavito kada je riječ o detekciji određenih objekata, programeri u pravilu moraju pristupiti sirovoj snimci kako bi ocijenili o kojem je stvarno objektu riječ u odnosu na ono što je algoritam „prepoznao“, te na taj način donijeli procjenu u kojem smjeru bazu podataka valjaju obogatiti određenim sadržajem koji će olakšati točnije i preciznije prepoznavanje u budućnosti.

Drugim riječima, podatke je nužno dijeliti, a što podrazumijeva da osobni podaci o čitavom nizu osoba bivaju dostupnih širem krugu, u ovom primjeru, razvojnih programera. Politika privatnosti by design odnosno by defualt koju bi morali implementirati svi razvojni programeri odnosno proizvođači opreme koji se bave obradom osobnih podataka, ali i fizičke i pravne osobe koje pružaju uslugu posredstvom sustava umjetne inteligencije u motornim vozilima, zahtjeva preciznu specifikaciju koji se osobni podaci, u kojem obliku, na koje razdoblje i na koji način, te u koju svrhu dijele sa trećim osobama. Potrebno je precizirati tko sve ima pristup takvim podacima (točno imenovane osobe na strani proizvođača odnosno razvojnog programera, ili trećih osoba koji kao podizvođači vrše obradu podataka ili, primjerice, retraining algoritma). Ovo sve, naravno, predstavlja ograničenu politiku privatnosti koja je usmjerena na zatvoreni krug dijeljenja nužnih podataka između proizvođača auta, opreme i sustava umjetne inteligencije (ne nužno samo jedna kompanija; primjerice, Comma.AI i make driving chill kaže Hotz) te vlasnika i korisnika vozila. Daleko složeniji problem predstavlja situacija kada se obrađeni podaci dijele sa čitavim nizom trećih osoba (u pravilu brokera podacima) u svrhu trgovine takvim podacima. Nešto lakša varijanta pravnog okvira dijeljenja podataka odnosi se na situacije kada se određene kategorije podataka prikupljaju u točno određene svrhe (primjerice, u vezi osiguranja, o čemu je nedavno na Bugovom portalu izašao vrlo interesantan tekst).

Obrada podataka vlasnika/korisnika vozila

Europska unija u smislu obrade osobnih podataka kao krovni instrument koristi mnogima „do grla“ poznatu GDPR Uredbu, odnosno Opću uredbu o zaštiti podataka. Prije nego što se da osvrt na određene segmente Uredbe od interesa za temu prikupljanja podataka u i izvan vozila (u idućem broju kolumne), korisno je sumarno se osvrnuti na specifična interesantna poredbena zakonodavna rješenja (odnosno, kako je to uređeno vani).

Hong Kong, koji i dalje održava vlastiti set zakonodavstva, u Uredbi o privatnim podacima određuje kako je dopuštena obrada samo onih osobnih podataka koji su potrebni za funkcioniranje pametne aplikacije odnosno pružanje usluge kroz pametnu aplikaciju. Svaka druga upotreba takvih podataka podložna je posebnom pristanku korisnika aplikacije. Kinesko pravo (koje vrijedi u ostatku zemlje) odnosno Zakon o zaštiti osobnih podataka prikupljanje i obradu podataka ograničava načelima legalnosti, nužnosti i prikladnosti. Drugim riječima, dopušta se obrada samo onih podataka koji su nužni za ispunjavanje svrhe obrade u minimalnoj mjeri potrebnoj za ispunjavanje svrhe obrade. Kada je riječ o osjetljivim podacima (primjerice, biometrijski podaci, bihevioralni podaci dio čega su i podaci o lokaciji vozila, i sl.), kinesko pravo zahtjeva pribavljanje prethodnog pristanka ispitanika. Kalifornijsko zakonodavstvo – konkretnije, Zakon o zaštiti potrošača i Zakon o pravu na privatnost – naglasak postavlja na prava potrošača kojima se pruža pravo na pristup svim obrađenim osobnim podacima, pravo na ispravak odnosno uklanjanje istih te, ono što je možda najinteresantnija stavka, pravo na opt-out (čitaj: zabranu) dijeljenja odnosno prodaje njihovih osobnih podataka trećim osobama (brokerima podataka).

Kinesko pravo opt-out opciju predviđa kod onih komercijalnih aktivnosti u vezi obrađenih podataka gdje algoritmi provode automatizirano odlučivanje o obradi osobnih podataka. Za razliku od hongkongskog, kineskog, i singapurskog zakonodavstva koje zahtjeva prethodni pristanak ispitanika (potrošača / vlasnika vozila / korisnika vozila), pravo Engleske i Walesa predviđa opt-in mogućnost prava proizvođača da bez izričitog pristanka potrošača koristi obrađene podatke potrošača u svrhu reklamiranja proizvoda koji su slični proizvodima koje su isti već ranije kupili. U takvom slučaju nužno je osigurati kontinuiranu mogućnost potrošača na opt-out. Kalifornijsko zakonodavstvo ide korak dalje i načelno dopušta korištenje prikupljenih podataka o potrošačima u svrhu reklamiranja, uz iznimku zabrane dijeljenja bihevioralnih podataka potrošača s trećim osobama u svrhu reklamiranja druge vrste proizvoda osim ako za isto nije pribavljen pristanak potrošača. Singapursko pravo, za razliku od većine drugih poredbenih pravnih okvira, predviđa iznimku korištenja osobnih podataka bez prethodnog pristanka ispitanika ako su takvi podaci nužni za unapređenje proizvoda odnosno usluga u vezi pametne aplikacije u vozilu. I još jedna specifična norma za ovaj kraći pregled nekih karakterističnih pravila u poredbenom pravu: kalifornijsko pravo sadrži interesantno pravilo u vezi dijeljenja podataka sa električnim chargerima. Ako nije osiguran pristanak potrošača o dijeljenju podataka, konkretnije lokacije i kretanja vozila, sa sustavom pametnog punjenja, sustav pametnog punjenja isključivo može pokazivati podatke o nedostupnosti određene točke punjenja odnosno o procjeni ponovne dostupnosti točke punjenja.

Tema se nastavlja...

Mihael Mudrić je izvanredni profesor na Pravnom fakultetu Sveučilišta u Zagrebu gdje predaje teme iz područja prometnog prava, prava osiguranja, energetskog prava i prava privatne zaštite. Posebno se bavi problematikom regulacije umjetne inteligencije u kontekstu privatne i javne sigurnosti, automatizacije vožnje u svim modalitetima prijevoza, i zaštite osobnih podataka. Sudjelovao je na više međunarodnih znanstvenih projekata uključujući HORIZON 2020, aktivan je član međunarodne radne skupine za autonomna plovila pri Međunarodnom pomorskom odboru, i predstavnik je Republike Hrvatske pri Zajedničkoj radnoj skupini za autonomna plovila Međunarodne pomorske organizacije. Voditelj je sveučilišnog projekta Pravni okvir za autonomna vozila, Pravni fakultet Sveučilišta u Zagrebu. Potpredsjednik je Hrvatskog društva za pomorsko pravo, arbitar pri Arbitražnom sudištu HGK, i član Instituta za sigurnosne politike. Doktorirao je na Max Planck institutu i Pravnom fakultetu Sveučilišta u Hamburgu, Njemačka.