Prije nekoliko dana u Helsinkiju robot za dostavu hrane doslovce je zapeo za parkirano vozilo (usput ga i oštetio). Prolaznik koji je primijetio da je automatizirano dostavno vozilo zapelo za parkirani automobil pomogao je dostavnom vozilu da se vrati na cestu, nakon čega je vozilo nastavilo dalje. Prolaznik je nakon toga obavijestio policiju. Neobično je da u trenutku akcidenta nije bilo nikakve reakcije od strane centra za udaljeno upravljanje robo-dostavnim vozilima, odnosno da se kompanija koja stoji iza ove usluge nije odmah očitovala odnosno javila nadležnom tijelu. Otprilike u isto vrijeme, dakle nekoliko dana prije početka pisanja ovoga teksta, Waymo autonomni robotaxi udario je biciklista na ulicama San Francisca. Biciklist je dobro i nije pretrpio ozljede, robotaxi je nastavio voziti dalje, a kompanija Waymo odmah je kontaktirala nadležne službe. U kompaniji kažu da je bicikl bio vizualno zaklonjen velikim kamionom neposredno pred ulazak na raskrižje, što je onemogućilo pravovremenu detekciju te da unatoč jakom kočenju vozilo nije uspjelo izbjeći kontakt.

Ovakve vrste incidenata su svakodnevne, neovisno o tome koriste li vozila određenu tehnologiju ili ne, a sve više je natpisa na medijskim portalima o raznim vrstama naprednijih sustava za ispomoći u vožnji i incidenata u kojima sudjeluju tzv. samovozeći automobili ili dostavna vozila.

No, prije nekoliko mjeseci na ulicama istoga grada, San Francisca, dogodio se incident koji je uključivao robotaxi druge kompanije, Cruise, i koji je s obzirom na posljedice iskočio iz tračnica uobičajenih prometnih incidenata te glasno odzvonio uzduž lanca kompanija uključenih u razvoj tehnologije automatizirane vožnje. U ovom tekstu osvrnut ću se na spomenute nesreće i druge slične incidenata te fokusirati na problematiku uključivanja naprednijih sustava za ispomoć u vožnji u svakodnevnom prometu.

This Time Next Year…

Određeni čelnik kompanije Tesla godinama uporno najavljuje u potpunosti automatiziranu vožnju koja dolazi iza prvog idućeg tehnološkog zavoja. Istovremeno, kompanija Tesla iza sebe ima milijune kilometara korištenja Autopilot sustava i naprednijih sustava ispomoći u vožnji, i već samim time odnosno činjenicom kako Teslini sustavi predstavljaju značajan dio tržišta, kompanija zauzima lavovski dio statistike koja se odnosi na različite vrste incidenata.

Prva službena zabilježena prometna nesreća Tesla vozila (Model Y) koja se dogodila dok je dinamičku kontrolu nad vozilom održavao sustav polu-automatizirane vožnje, Full Self-Driving (FSD) Beta, dogodila se u studenom 2021. godine. Prema navodu vozača, tijekom izvođenja manevra skretanja FSD sustav je počeo skretati u pogrešnu prometnu traku. Vozač je pokušao upravljačem ispraviti liniju kretanja, no FSD je odbio vozaču prepustiti kontrolu (tzv. transition denial), i nastavio pogrešno skretanje. Rezultat svega jest sudar sa drugim vozilom.

Iako je sam naziv FSD sustava – „u potpunosti samovozeći“ – zavaravajući obzirom da je i sama kompanija Tesla više puta jasno dala do znanja da FSD sustav ne podrazumijeva u potpunosti automatiziranu razinu vožnje (Teslin FSD sustav i dalje se klasificira kao 2. razina SAE automatizirane vožnje, odnosno 2.5 za entuzijaste), u ovom konkretnom slučaju FSD sustav je, čini se, odlučio suprotno. Suprotno razmišljaju i brojni korisnici (tzv. early adopters) FSD sustava (odnosno Autopilot sustava koji također nudi Tesla, i koji, iako dolazi u više izvedenica, nudi manje mogućnosti od FSD sustava) i sličnih sustava (poput sustava General Motors Super Cruise Driver Assistance i Nissan/Infiniti’s ProPILOT Assist), koji, prema studiji izrađenoj krajem 2022. godine (IIHS studija), tretiraju takve sustave, odnosno vozila opremljena navedenim sustavima, kao samovozeće automobile (zanimljiv članak u vezi pro futuro upotrebe samovozećih vozila).

Zabilježeni su sve brojni incidenti u kojima korisnici korištenjem remena i ruksaka zavaravaju sustav da sjede na vozačkom sjedalu i pridržavaju volan. Ujedno, evidentirano je više incidenata kada su vozači spavali tijekom vožnje odnosno bili toliko alkoholizirani da bi bilo bolje da su spavali.

U studenom 2022. godine dogodio se relativno poznat incident (poveznica na tekst i video zapise; poveznica na interesantnu raspravu na Redditu) kada je Teslino vozilo (Model S) upravljano FSD sustavom prilikom ulaska u tunel naglo počelo kočiti i mijenjati traku te se na posljetku u potpunosti zaustavilo u krajnje lijevoj (najbržoj) traci. Opisani nagli manevar nije ostavio dovoljno vremena vozilima koja su u krajnje lijevoj traci ulazila u tunel da zakoče i spriječe sudar. Rezultat opisane situacije jest lančani sudar brojnih vozila (8 ukupno) te brojni ozlijeđeni sudionici u prometu. Potrebno je dodatno za napomenuti kako se FDS sustav u pravilu isključuje prilikom ulaska u tunel i kontrolu preuzima Autopilot sustav, a što se, prema policijskom izvješću, dogodilo i u ovom slučaju.

Naglo kočenje FSD i Autopilot sustava u situacijama kada se ispred vozila ne nalazi neka neposredna prepreka ili opravdani razlog kočenja – poznato kao Phantom Braking pojava – nije nepoznanica vlasnicima Teslinih vozila te postoje brojni zapisi na društvenim mrežama gdje korisnici opisuju i daju prikaz takvih (false positive) slučajeva. Iako američko pravo (načelno govoreći, ovisno o saveznoj državi) u pravilu podrazumijeva odgovornost vozača stražnjeg vozila kod stražnjih sudara, iznimno se određuje odgovornost vozača prednjeg vozila ako do stražnjeg sudara dolazi zbog nagle izmjene prometne trake (te paralelnog naglog kočenja) pri čemu se stražnjem vozilu oduzima prednost i ne daje dovoljno vremena za kočenje. Policijsko izvješće navodi kako je vozač Tesle provodio nesigurni manevar izmjene prometne trake, dok su brojni vozači vozila koja su sudjelovala u lančanom sudaru evidentirani kao osobe odgovorne za prebrzu vožnju i izostanak održavanja propisanog razmaka među vozilima u pokretu.

Uz zabilježeno fantomsko kočenje ovaj incident ukazuje i na još jedan fantomski manevar – izmjenu trake iz sporije u bržu traku iako u tom trenutku u neposrednoj blizini ispred samog vozila nije bilo sporijeg vozila (prvo iduće vozilo bilo je udaljeno više sekundi razmaka te nije bilo razloga za izmjenu trake radi ubrzavanja i preticanja). Nejasno je dakle zašto je Teslino vozilo odlučilo prijeći u bržu traku kada za to u tom trenutku nije bilo potrebe. Dodatno, nejasno je zašto je vozilo odlučilo prijeći u bržu traku dok je istovremeno započelo sa manevrom kočenja, odnosno zašto je vozilo u potpunosti stalo u najbržoj traci tunela. Iz dostupnog video zapisa ispada kao da se vozilo odlučilo u potpunosti isključiti iz prometa, ali je isto učinilo na krajnjoj lijevoj traci, umjesto na krajnjoj desnoj traci (kada je ista dostupna) prije ulaska u tunel ili na posebno predviđenom mjestu za zaustavljanje unutar tunela.

Čini se da je vozilo okarakteriziralo prometnu situaciju kao izrazito riskantan događaj koji zahtjeva hitan manevar isključenja iz prometa, bez prilike da se o istome upozori vozača i vozaču pruži prilika da poduzme odgovarajući manevar. I sve se to događa u situaciji kada ne postoji nikakva naznaka (barem ne prema dostupnim video zapisima) da postoji bilo kakva neposredno predstojeća ugroza u prometu.

Prethodno ovom incidentu, ali i naknadno, američko savezno tijelo zaduženo za sigurnost prometa, Nacionalna uprava za prometnu sigurnost na autocestama (National Highway Traffic Safety Administration, NHTSA), u više je navrata od kompanije Tesla zatražila da povuče određena ažuriranja FSDa i izvrši kontrole nad određenim brojem vozila zbog prijavljenih serijskih kvarova. Primjera radi, u veljači prošle godine Tesla je povukla 360.000 vozila i javno izjavila kako FSD sustav može dovesti do prometnih nesreća (obično se ovakve izjave pojavljuju nakon suprotnih navoda određenog čelnika kompanije Tesla objavljenih na određenoj društvenoj mreži), da bi do kraja godine bila primorana povući preko 2 miliona vozila.

Bez muke nema nauke

Povlačenje ažuriranja softvera ili određenog broja vozila iz prometa jest mjera koja nije toliko neuobičajena za autoindustriju.

Za razliku od toga, mjera obustave važenja licencije za pružanje autotaksi usluge bez vozača, koju je kalifornijski Odjel za motorna vozila (Department of Motor Vehicles, DMV) usmjerio protiv kompanije Cruise, priča sasvim drugu priču. Iako ovo nije prvi slučaj da se Cruise robotaxi vozilo našlo u incidentnoj situaciji, po prvi puta je riječ o incidentu sa ozbiljnim posljedicama po zdravlje i život osoba. Nekoliko mjeseci ranije kompanija je bila prisiljena povući pola svojih aktivnih vozila sa ulica grada San Francisca dok se ne završe tekuće istrage.

U trenutku incidenta o kojem se raspravlja, Cruise je koristio 50 vozila po danu i 150 po noći. Odluka o ograničenju aktivnih robotaxi vozila naišla je na odobravanje javnih službi (vatrogasci, hitna ambulantna vozila, policija, i sl.) koje su duže vremena upozoravale na brojne poteškoće s kojima se suočavaju kada se na cestama susreću sa robotaxijima koji nisu u stanju provoditi uobičajene manevre micanja sa prometnice kako bi propustile službena vozila, odnosno manevriranja kroz zone ograničenog prometa i izbjegavanja ulaska u zone zabranjenog prolaska. Ono što službenike najviše brine jest kontinuitet izazova sa kojima se robotaxiji suočavaju kada su suočeni sa službenim vozilima i određenim situacijama (poput građevinskih radova, ograničenih zona vožnje, i sl.). U praksi to znači da robotaxiji opetovano ponavljaju iste vrste pogrešaka bez naznake da algoritam uči na greškama (okvirno je riječ o razdoblju od oko godinu i pol dana prakse korištenja vozila bez vozača).

U konkretnom slučaju koji je doveo do zabrane robotaksiranja bez vozača riječ je o prometnom incidentu u kojem je vozilo upravljano ljudskim vozačem udarilo pješakinju koja je prelazila cestu. Od udarca je pješakinja pala na dio ceste odnosno traku kojom se kretao Cruise robotaxi (poznat pod nadimkom „Panini“). Prema dostupnim analizama incidenta (poveznica na odličan slikovni prikaz) čini se kako je robotaxi izgubio praćenje pješakinje u trenutku kada istu udara drugo vozilo (2.9 sekundi prije sraza sa Cruise robotaxijem). Obzirom na silinu udarca pješakinja prvo završava na poklopcu motora pa krovu drugog vozila, nakon čega, točno 1.2 sekunde prije sraza sa Cruise robotaxijem, pada na cestu, konkretnije desnu traku po kojoj se kreće robotaxi. Točno 0.4 sekunde prije sraza robotaxi pali alarm za neposredan sudar (imminent collision), te 0.25 sekundi prije sraza započinje sa manevrom naglog kočenja obzirom da uočava „nepoznati objekt“ na svom putu. Točno 1.78 sekundi nakon sraza, robotaxi se u potpunosti zaustavlja. Lidar senzori kojima je vozilo opremljeno „ne vide“ ispod vozila, gdje se u tom trenutku pješakinja nalazi, te od pješakinje vide samo njezinu nogu koja je savinuta u smjeru biciklističke staze. Algoritam na temelju tog jedinog dostupnog prikaza dijela tijela osobe zaključuje kako osoba (pješakinja) leži pored robotaxija (a ne ispred odnosno ispod), te da je došlo do bočnog a ne prednjeg sraza odnosno sudara. Obzirom na navedeno, robotaxi 1.83 sekunde nakon sraza odlučuje ponovno započeti sa ubrzavanjem kako bi izveo manevar isključenja iz prometa. Navedena odluka algoritma je upitna obzirom da se vozilo već nalazilo u krajnje desnoj traci u kojoj je jedino i moglo stati, a što dovodi do zaključka kako je vozilo krivo protumačilo biciklističku traku koja se nalazi desno od krajnje desne trake kad standardnu prometnu traku (iako je ista bila dobro obilježena). Dvije sekunde kasnije robotaxi započinje manevar naglog zaustavljanja nakon što senzor brzine ukazuje na probleme u rotaciji stražnjeg lijevog kotača, te se konačno zaustavlja 8.8 sekundi nakon inicijalnog sraza. U trenutku zaustavljanja krajnji lijevi kotač vozila nalazio se na nozi pješakinje koja je i dalje bila pozicionirana ispod vozila i koju je Cruise vukao više metara (konkretno 6 metara). Pretpostavlja se kako ljudski vozač ne bi, kao ni Cruise vozilo, stigao zakočiti na vrijeme prije inicijalnog sraza, ali da naknadno, za razliku od robotaxija, ne bi nastavio kretanje jer bi razumno zaključio odnosno razumio do kakve vrste sraza je došlo.

Drugi izvještaji spominju i ulogu Cruise kontrolnog centra za udaljenu kontrolu koji je, navodno, preuzeo kontrolu nad vozilom na daljinu te vozilo isključio iz prometa. Navedeno ima smisla obzirom na relativno novije priznanje kompanije Cruise kako učestalo koristi udaljene operatere za rješavanje niza problema u prometu koje njihova vozila nisu u stanju samostalno razriješiti (poveznica na dobar primjer opisan na Bugovom portalu).

Kompanija je priznala da sustav u prosjeku svakih 4 do 8 kilometara traži podršku udaljenih operatera (prema navodu New York Timesa, to u prosjeku podrazumijeva 1.5 operatera po aktivnom vozilom), od upita slaže li se operater sa predloženim automatiziranim rješenjem (human-in-the-loop pristup), do preuzimanje dinamičke kontrole nad vozilom od strane udaljenog operatera. Ovo je još jedan pokazatelj kada PR očekivanja idu na štetu transparentnosti poslovanja i povjerenja javnosti, a što u konačnici znači da je riječ o lošoj PR politici.

Ako te robot vozi u San Francisco

U odluci izdanoj od DMVa spominje se činjenica da kompanija Cruise nadzornom tijelu i drugim zainteresiranim strankama (primjerice, novinarima) nije učinila dostupnim sve raspoložive videozapise incidenta, već samo one snimke koje su pokazivale nastojanja robotaxija da spriječi kontakt odnosno umanji štetne posljedice kontakta. Ujedno, DMV je ustvrdio kako je kompanija u svojim ranim priopćenjima izostavila ključne činjenice u vezi incidenta (prvotna komunikacija navodno nije spominjala naknadni manevar isključivanja iz prometa).

Tek nakon informacije koju je DMVu odaslalo drugo nadležno vladino tijelo, Cruise dostavlja i druge dostupne videozapise koji pokazuju da je robotaxi nakon kontakta izveo manevar zaustavljanja. DMV je ocijenio kako provedeni manevar nije vodio računa o sigurnosti osoba, obzirom da je tijekom izvođenja manevra isključenja iz prometa vozilo nastavilo „vući“ pješakinju koja se u tom trenutku nalazima pod vozilom. Američko Ministarstvo pravosuđa početkom godine također je potvrdilo kako provodi neovisnu istragu u vezi istog incidenta. Na saveznoj razini slične istrage u vezi ovog i drugih incidenata koji uključuju Cruise robotaksije također provode Nacionalna uprava za prometnu sigurnost na autocestama i Komisija za vrijednosne papire i burzu.

Prije nekoliko dana održano je prvo saslušanje čelnika kompanije pred kalifornijskim tijelom nadležnim za izdavanje licencija za robotaxi uslugu bez vozača (kalifornijska Komisija za javne usluge, California Public Utilities Commission, CPUC). Kompanija Cruise je po prvi puta priznala da je činila pogrešne korake odnosno da je sustav u vozilu višestruko zakazao, ali isto tako krivi i lošu internetsku vezu (nije šala) za nedostatak punog i transparentnog izvještavanja. Sam sudac je ovaj posljednji navod, inače dostupan u izvješću odvjetničkog društva (više PR proklamacija nego pravna argumentacija, prosudite sami) koje zastupa General Motors, tijekom saslušanja doveo u pitanje.

Kompanija predlaže nagodbu iako maksimalna predviđena kazna iznosi 1.5$ miliona, što za General Motors odnosno Cruise ne predstavlja izazov. Posljednja tvrdnja se dodatno naglašava ako se u obzir uzme spor pokrenut krajem 2023. godine u kojem General Motors od Grada San Francisca potražuje 121$ miliona na ime nepravičnih poreza i kazni (postupak koji će teško pomoći smiriti strasti osim ako je pokrenut s ciljem da se kasnije prekine kao znak dobrih namjera uperenih prema sklapanju nagodbe sa Gradom San Franciscom). Što o potencijalnoj nagodbi misle neki građani najvećeg američkog poligona za automatizirana vozila, Grada San Francisca, pokazali su ritualnim činom uništenja Waymo robotaxija u plamenu (a što je autor ovog teksta otkrio dok je završavao ovaj tekst; poveznice ne treba dijeliti i takvim djelima ne treba davati previše publiciteta).

Načelno, Cruise i dalje ima pravo pružati taxi uslugu odnosno testirati svoju tehnologiju, ali sigurnosni vozač mora biti prisutan u vozilu na mjestu vozača (već nekoliko dana nakon nesreće pojavile su sve prve snimke sigurnosnih vozača). No, kompanija je ubrzo nakon gubitka licencije u San Franciscu obustavila svoje operacije u cijeloj zemlji. Sama krovna kompanija General Motors prolazi burno razdoblje posljedično navedenom incidentu, a što uključuje i znakovito smanjene zaposlenih u sektoru autonomne vožnje odnosno promjene osoblja u Cruise ogranku.

Poznati incident iz 2022. godine (popraćen na opće oduševljenje prolaznika) dobar je podsjetnik koliko je važno da su sva javna tijela zadužena za osiguravanje sigurnosti prometa na cestama unaprijed upoznata sa i spremna odgovoriti na izazove implementacije automatiziranih vozila u cestovni promet. Neovisno o ishodu sage sa Cruise robotaxijima, neupitno je da automatizirana vozila nastavljaju svoju vožnju na ulicama američkih gradova.

Kompanija Waymo sa svojih, okvirno, 250 aktivnih vozila i dalje nastavlja pružati robotaxi uslugu bez vozača u San Franciscu, dok na razini savezne države Kalifornije, ukupno 6 kompanija pruža uslugu autotaksi prijevoza bez vozača temeljem izdane licencije (tzv. driverless permit), te je 2023. godina rekordna po broju prijeđenih kilometara u Kaliforniji (čak 5 puta više nego u svim prethodnim godinama). A to je samo Kalifornija – testiranja se provode i usluge se pružaju u sve većem broju američkih gradova. Brojne savezne države u Americi, u nedostatku saveznog zakonodavstva, usvajaju posebne zakone i pravilnike u vezi korištenja sustava automatizirane vožnje. Ideja iza takvih normativnih zahvata nije pokušaj ograničavanja tehnologije i napretka, već nastojanje da se izbjegnu prethodno opisane situacije kojih će s vremenom biti sve više.

Apel za jaču regulaciju koji odašilje Grad San Francisco, koji kao značajnija urbana sredina ima možda najviše iskustva u svijetu sa implementacijom automatiziranih vozila u javni promet, ukazuje na ozbiljnost situacije i razinu ugroze koju gradske vlasti i službe svakodnevno uočavaju i probleme sa kojima se svakodnevno bore. Istovremeno, ne smije se smetnuti sa uma kako niti jedna služba Grada San Francisca nije ni u jednom trenutku javno ustala protiv robotaxija u gradu. Sasvim suprotno, i primjera radi, nedavno objavljen službeni edukativni video ponašanja u prometu prilikom prolaska vatrogasnog vozila koristi upravo jedno robotaxi vozilo kao dobar primjer kako se isključiti iz prometa i na taj način osigurati prolaz vatrogasnom vozilu pod signalnim svjetlima. Sinergija je itekako moguća i dobrodošla, ali ne na račun građana i sigurnost javnog prometa.

Mihael Mudrić je izvanredni profesor na Pravnom fakultetu Sveučilišta u Zagrebu gdje predaje teme iz područja prometnog prava, prava osiguranja, energetskog prava i prava privatne zaštite. Posebno se bavi problematikom regulacije umjetne inteligencije u kontekstu privatne i javne sigurnosti, automatizacije vožnje u svim modalitetima prijevoza, i zaštite osobnih podataka. Sudjelovao je na više međunarodnih znanstvenih projekata uključujući HORIZON 2020, aktivan je član međunarodne radne skupine za autonomna plovila pri Međunarodnom pomorskom odboru, i predstavnik je Republike Hrvatske pri Zajedničkoj radnoj skupini za autonomna plovila Međunarodne pomorske organizacije. Voditelj je sveučilišnog projekta Pravni okvir za autonomna vozila, Pravni fakultet Sveučilišta u Zagrebu. Potpredsjednik je Hrvatskog društva za pomorsko pravo, arbitar pri Arbitražnom sudištu HGK, i član Instituta za sigurnosne politike. Doktorirao je na Max Planck institutu i Pravnom fakultetu Sveučilišta u Hamburgu, Njemačka.