Uberov autonomni automobil ubio pješakinju, kompan

- nije istrčala.. (snimka).

- krši li neki propis? Kakve to veze ima s autonomnim vozilom? možda zato jer je narkoman? AI nije reagirao, morao je..

s obzirom da su i vozac i auto zaspali, bio bi red posumnjati na Uber mind meld izmedju vozaca i auta...

ilitiga, s kim si takav si...

 Dati ću ti reket za stolni tenis. Ako ti stalno bacam loptice svaku ćeš udariti. Ako ti u pet sati možda bacim jednu sigurno ćeš je promašiti. U biti nećeš ni zamahnuti.

Ovaj "nadzornik" je tu samo forme radi. Zahtijeva ga birokracija. Da Hamiltona staviš u ovakvu situaciju ne bi uspio reagirati.

S druge strane, vjerujem kako mu i nije posao reagirati u ovakvim situacijama. Kakvo je to testiranje autonomnog sustava ako će u nesvakidašnjim situacijama reagirati čovjek a ne elektronika? Ili treba reagirati tek kad vidi da je automatika zakazala? Jel to možda malo prekasno?

 Događaju se greške samo je velika raazlika kad ti se smrzne tablica u Excelu i kad ti netko ubije mater ili dijete.  Je li ova žena pristala, potpisala, da je možda zgazi auto kako bi se testirala tehnologija koja će možda jednog dana smanjiti smrtnost na cestama? Ti odobravaš ovakva testiranja?

Ne govorim tko je kriv sa strane zakona, kažem da jeovo fail softvera i da je ovo situacija u kojoj je softver trebao bolje odraditi posao i barem smanjiti posljedice nesreće.

Dovoljno se već tu laprdalo tko je kriv , to je potpuno nebitno sad, žena je mrtva jer je bila neoprezna.

Sustavi u autu su imali dovoljno vremena da detektiraju problem i uspore i li promjene smjer gibanja automobilu pogotovo što auto ima različite senzore koji vide daleko olje od čovjeka.

 Zna da je software zato jer za hardver postoji automatska provjera ispravnosti i redundancija. Ako to nije implementirano u ovom vozilu onda se radi o još žešćoj gluposti zakonodavca koji je pustio ovo vozilo na cestu.

Kočnice na današnjim autima zakazuju jedino ako je vlasnik neodogovoran. Imaš provjeru tlaka kočione tekućine, svako godišnje se provjerava stanje iste da nije navuklo vlagu, imaš 4 kočnice, po jedna za svaki kotač, imaš ručnu.

Zbog poslovično neodgovrnih vlasnika i još neodgovornije države današnji automobili u HR najviše pate zbog neispravnog ovjesa, prvenstveno amortizera koji kad su ispravni značajno skaraćuju zaustavni put i doprinose sveukupnoj stabilnosti vozila.

Stanice za tehnički u nas nemaju provjeru amortizera, a da imaju kladio bih se da cca 60% vozila ne bi prošlo tehnički. Ono što bi ja uveo jednako tehničkom jesu brzinski testovi prometnih pravila i prometne kulture, svake godine za svakog vozača. Kako moramo provjeriti ispravnost vozila mora se provjeriti i ispravnost svakoga tko je u posjedu dozvole za upravljanje motornim vozilom.

Baš sam gledao malo o tima utima, znači auto je opremljen lidarom koji cijelo vrijeme skenira svih  360 stupnjeva oko auta , za lidar nije bitno doba dana jer koristi laser za skeniranje okoline.

Znači to što se vizualno osoba prekasno pojavila nije presudno, lidar je trebao detektirati osobu na vrijeme.

Ako se dokaže teški nemar. Pogriješiti može svatko, a ni doktori ne gube licence za svaku grešku, čak i ako ona rezultira smrću. 

Kao što sam ti napisao u drugoj temi, taj dio je neupitan. Neovisno o tome da li će se utvrditi podijeljena krivnja zbog izostanka reakcije, pješakinja je već bila u prekršaju jer nije propustila vozilo.

 -ok, nemar.. a teški-laki? Ne, nego posljedice. Ovo je sa smrtnom, takva mora biti i istraga.. ili neće, jer je narkomanka?.. nije isto radiš li palačinke i zaboraviš pekmez ili vid-senzor.. ali slažem se, samo ne u gradaciji :)

-zaboravi pješakinju.. AI je svakako kriv ako ne vidi i vozi, kao i oni koji to kontroliraju. Jednako je po snimci mogao biti pješački prijelaz.. i jednake bi bile poslejdice. Jednaka krivnja.

visak, ... ne mora bit dev, netko tko stavlja potpis i dozvoljava izlazak vozila, .. u slučaju AIa su to devovi jer je soft. Možda su krivi kinezi za senzore, možda portir.. no netko je profesionalno odgovoran, kao što je vlasnik uber time odgovoran (a ako je soft po narudžbi tad je i vlansik softa, ovisi o ugovoru..) .. uber je tad svakako odgovoran (vjerojatno i kriv).. devovi su onako stilska figura.. ali tko je drugi odgovoran za AI ako ne oni koji ga kreiraju? Ako naprave propust, krivi su, ako pristanu za sniženje nekog sigurnosnog kriterija, krivi su.. i svaki dio koda potpisjuju. Ni doktor, električar, bankar.. bilo koja funkcija koja nešto potpisuje ne smije ako to nije u skladu sa strukom-pravilima.. neovisno o 'naredbama' koje dobiju.

Trump optuži igre (soft-AI..) za nasilje.. i tome se svi smijemo, dok ima mitrače u trgovnama.. a sad nitko ne bi optužio soft-AI? .. i onog tko iza softa stoji, dev-a? Zašto? To je posao kao svaki drugi, kao i odgovornost koja time ide. Ako su do sad radili GTA, tad su nestručni i već zato krivi (bave se nečim za što nisu osposobljeni, posljedice..).

npr bit će vjerojatno i kriv suvozač(ica) što već sjedi na sicu, jer je plaćen(o) radno mjesto time i odgovornost za posljedice. Kao instruktor u autoškoli.. to je posao-profesionalna odgovornost. To je u svakom poslu poslovni rizik. Posebno kad utječe na druge ljude. Zašto bi devovi bili izuzeti od tog, nije to GTA..

Brkaš kaznenu odgovornost i materijalnu odgovornost.

Materijalna ne ovisi uopće o nemaru, isključivo o udjelu odgovornosti i visini štete. Primjerice, onaj tko je odlučio da na šalicama kave ne piše da je sadržaj vruć nije odgovarao za teške ozljede uzrokovane vrućim sadržajem jer to nije nemar. Da je došlo do kaznenog progona, zaključak bi bio da je pretpostavka da kavopije znaju da je kava vruća logična i ne predstavlja nemar, dok naknada štete po materijalnoj odgovornosti uredno dosuđena. 

Smrtni ishod je nešto što samo po sebi zahtjeva istragu i predstavlja eventualnu otegotnu okolnost, međutim, pri utvrđivanju kaznene odgovornosti je bitnije da li je postojao opravdan razlog za nešto dodatno provjeriti što nije provjereno. Da karikiram tvoj primjer:

Ako radiš palačinke i umjesto marmelade namažeš sanitar, kupac će vrlo vjerojatno po mirisu primjetiti prije nego pojede i mala je šansa da će uopće doći do trovanja, ali ćeš kazneno odgovarati jer si grubim nemarom i kršenjem propisa o čuvanju opasnih tvari ugrozio nečiji život. S druge strane, materijalno ako bi i odgovarao, eventualno bi to bilo za pretrpljeni strah (pogotovo ako kupac dokaže da se nakon toga boji jesti palačinke).

Ako radiš palačinke, zaboraviš pekmez, a kupac koji ima jako suha usta to ne skuži, zapne mu zalogaj u grlu jer ipak palačinka gušća od pekmeza, te se uguši, tvoj nemar je doveo do smrtnog ishoda, ali se radi o lakšem propusti za kojeg je smrtni ishod bio potpuno neočekivan i realno je očekivati da ćeš biti oslobođen kaznene odgovornosti, ali materijalno ćeš svakako odgovarati.

Što se tiče samih AI sustava, općenito je u programiranju teško, gotovo nemoguće, raditi potpuno bug free. Jedan od razloga je i komputacijski problem (ne možeš znati rezultat operacije dok je ne izvršiš). Kad još pri tom imaš ovisnost o mogućim HW greškama, sustav jednostavno ne može biti nepogrešiv. Kod AI sustava je to daleko izraženije jer jednom napravljen test predstavlja input za sljedeći test tako da čak i izvršena operacija ne garantira da će dati isti rezultat pri sljedećem izvršavanju. Naravno, uvijek se može napraviti sve moguće da se eliminiraju greške koje bi dovele do fatalnih ishoda, ali ne možeš nikad biti siguran da je sustav 100% pouzdan (ni prirodni ni umjetno, da se razumijemo).

Recimo, ako koristiš neki komunikacijski protokol koji je de facto industrijski standard za tu namjenu i nemaš opravdanog razloga smatrati da će zakazati u takvoj primjeni, te dodatno testiraš eventualne interferencije, čak i da se u nekim specifičnim slučajevima koje nisi uspio testirati pojavi problem, to nije nemar jer nisi imao razloga uopće posumnjati da bi to toga moglo doći. Primjerice PSA grupa je imala problem sa senzorima temperature motora pri čemu je u nevjerojatnom spletu okolnosti antifriz ulazio u računalo. Da je zbog toga netko poginuo, to bi teško prošlo kao kazneno djelo zbog nemara jer je to nešto što nitko normalan ne bi ni pomislio da se može dogoditi (naravno, materijalna odgovornost ostaje).

A sad jedna misao u potpuno suprotnom smjeru.

Nekima je padalo na pamet da je AV to namjerno napravio. Pao mi je napamet jedan scenarij u kojem je to čak i moguće. Ukoliko su u svrhu minimiziranja materijalne štete ubacili podatke o prosječnim odštetama u slučaju prometne, te ukoliko je pritom zakazala odreda koja ljudski život stavlja ispred materijalne štete, sustav je mogao zaključiti da je bolje ubiti pješaka nego napraviti invalida od njega. Iako je ovo jedna misao bez uporišta u stvarnim podacima, nije toliko ni luda jer se to u Kini događa dosta često - ljude se vrate u rikverc da bi bili sigurni da je pješak mrtav jer je kazna za to jako mala, a odšteta za invalidnost je višestruko veća od odštete za smrtni slučaj.

Tvoj problem je što tvrdnju "pješak je kriv" interpretiraš kao tvrdnju "vozač je nevin". To je samo tvoja interpretacija i već smo ti više puta pokušavali objasniti da se ne raspravljaš sa drugima, već sa vlastitom interpretacijom.

Pješakinja je kriva jer je u evidentnom prekršaju koji je direktno doveo do nesreće - auto je dolazilo prema njoj s upaljenim svjetljima i po pravcu, ne postoje objektivni razlozi zbog kojih ga nije mogla vidjeti i bila ga je dužna propustiti (citirao sam ti zakon, u USA je sličan - razlika je gdje smiješ preći, ali ne i u propuštanju vozila).

Vozač (AI) je vjerojatno kriv, ali nemamo dovoljno podataka za utvrđivanje te krivnje i to se inače radi vještačenjem svih okolnosti, a ne odokativno iz snimke.

Dakle nitko ne tvrdi "kriv je pješak, nevin vozač (AI)", već tvrdimo "pješakinja je svakako kriva, a eventualnu sukrivnju vozača (AI) tek treba utvrditi).