Nepovjerenje kupaca usporava napredak autonomnih v

Kao programer, vjerojatno nikad neću vjerovat autonomnim vozilima s obzirom da nešto više razumijem kako zapravo rade. 

Jedno je dok moraš resetirati mob ili komp, ali nešto sasvim drugo dok automobil dobi krivi rezultat iz neke funkcije. 

Da, da, mogu i ja donijet krivu odluku, ali ja *razumijem* situaciju, a automobil naprosto izvršava instrukcije. 

Smatram da je autonomna vožnja konačan problem, možda ne apsolutno konačan, ali konačan s dovoljnom uspješnosti da bude sigurniji od 99.9% ljudi. 

Ali nikad mu neću vjerovat :-) 

Da ne spominjem da će prva stvar koju će ugradit u automobile kad to zaživi biti - reklame. A trenutak kasnije će auto sam vozit na najbolje popuste. 

Ne zaboravimo da iza svega toga stoji biznis i želja za maksimalnim profitom, a ne briga za sigurnost na cestama :-)

Citiram: "Zbog stalnog nedostatka nepovjerenja u privatni sektor potrošači od vlada zahtijevaju povećanje broja propisa."

Kakva je ovo konstrukcija rečenice? Jel netko zna što je pisac htio reći?

kupci su đavolja rabota. ne puše baš svi marketinška izdrkavanja i ne prihvaćaju bez pogovora besmislena sranja koja im uvaljuju. grozno. još će se sigurno pobuniti i protiv nepotrebno prevelikih guma. mislim, ti kupci ... 

 to error is human. to forgive is out of the question. 

S druge strane, ako se s kamionom od par desetaka tona desi sranje, posljedice će biti puno teže nego ako se desi s osobnim automobilom. Što se tiče povjerenja, ljudi bi i uz iste posljedice, u slučaju kamiona izgubili više povjerenje prema takvoj tehnologiji jer se onda tu još javlja percepcija jačeg/slabijeg.

 prvo treba napraviti autonomna dječije vozila, romobile, bicikle a ne kamionske pokretne mrcine poput teških 25 tonskih kamiona i autobusa..

super bih se osjećao da mi u susret dolazi 35 tonski "autonomni" šleper pun šljunka koji brzom cestom ide nekih 80km/h ... 

 Prometna nesreća je trošak i/ili gubitak zarade. Inicijative ponuđača i potrošača su u tom dijelu prilično poravnate tako da ne treba previše brinuti.

Ti mora da si još mlad i nadobudan :-)

Recimo, jesi li ikad vozio auto oko Milana ili oko Rima? 

Da je na cesti doista hrpa nesposobnih ljudi na tim mjestima događalo bi se barem tisuću prometnih nesreća dnevno. 

A desi se tek tu i tam koja i to ne svaki dan. 

Dakle, daj malo više kredita ljudima i razvoju "AI" sustava koji traje par milijuna godina. 

A "vjerovati" softveru je pogrešna konstrukcija u samom početku jer bi to značilo da softver može donositi svjesne odluke i odgovarati za njih, te da će u najboljoj vjeri uvijek donijeti najbolju odluku za tebe (= povjerenje). 

Softver ne "misli", nego izvršava instrukcije koje je netko isprogramirao. 

Tako da, eventualno - možeš vjerovati ljudima koji su pisali softver - ali koja je onda razlika vjerovati njima ili vjerovati drugim vozačima na cesti?

Za druge vozače barem znaš da ne žele poginut namjerno (velika većina :-)) i znaš da će aktivno i svjesno izbjegavat smrtno opasne situacije (kao što ćeš i ti sam) što omogućuva da milijuni auti u kaotičnoj gužvi velikom brzinom prolaze od Milana do Turina bez da se dogodi nesreća svakih 15 sekundi (što bi bilo za očekivati uz tezu da je na cesti hrpa nesposobnih ljudi). 

Softver neće imati nikakvih problema skrenut s mosta i ubit te ako je isprogramiran tako da je bolje ubit tebe i tvoju obitelj nego potencijalno ubit druge dvije obitelji.

Naglasak na potencijalno jer će to biti matematički izračun i ako je rezultat izračuna veći od predefiniranog koeficijenta rizika, izvršavanje softvera će skrenut u drugu granu gdje je tvoja obitelj mrtva (ekstremna situacija ilustrativne prirode da bude jasnije kako radi autonomni sustav u automobilu). 

I neće odgovarat za to, niti će imati grižnju savjesti.

Zbog toga će prijelazno razdoblje biti jako, jako problematično. Možda bi bilo lakše da od sutra SVI automobili moraju biti autonomni, ali i dalje imaš brojne nepredvidljive situacije (što druge sudionike koji nikad neće biti autonomni tipa pješaci i biciklisti, što razne prirodne faktore i nepogode) koje bi softver činile "lošim" i "nespremnim".  

Nedavno sam vozio Mazdu 6 (odnosno Mazda je vozila mene) opremljenu s dovoljno tehnologije da može sama "vozit" po lokalnoj cesti. 

I mogu ti reći da je osjećaj bio apsolutno zastrašujuć. 

S jedne strane znajući da su to sve "ne beta, nego alfa" tehnologije, a s druge taj grozni osjećaj da nekakvi programski kod odlučuje o mom životu ... bit će se jako, jako teško priviknut na to. 

Pa, radio sam na jednostavnijim neuronskim mrežama (što se popularno zove AI) i iako to nije bilo ni blizu kompleksne neuronske mreže koja bi upravljala automobilom - princip je isti. 

Namjerno sam banalizirao cijelu stvar upravo zato što i je banalna u svojoj osnovi (iz AI pozicije). 

To što sama mreža može biti grozno kompleksna, ne znači da cijela stvar u osnovi nije banalna, a banalna je zbog toga što se cijela neuronska mreža ponaša prema unaprijed postavljenim parametrima, a "čvorovi" koji se prilagođavaju s ulaznim podacima - ne prilagođavaju se "samoinicijativno", već opet prema pre-definiranim algoritmima. 

Dakle, neuronska mreža može postati užasno komplicirana i užasno precizna - ali samo unutar definiranih algoritama koji upravljaju čvorovima. 

Neuronska mreža neće odjednom stvoriti potpuno novi algoritam koji bi značajno promijenio ponašanje mreže - ma koliko ona bila "sofisticirana" ili kompleksna.

Moja poanta je - neuronska mreža je skup dinamičkih IF-ova (da, namjerno banalizirano) - običan programski kod koji je u stanju prilagođavat stanja izlaza ovisno o ulazima i definiranim pravilima prema kojima se uopće određuje stanje izlaza.

I to je to. Nebitno koliko su IF algoritmi sofisticirani i kompleksni. I dalje su algoritmi, komad programskog koda.

Govoriti da je to AI je apsurd jer tu nema nikakve inteligencije. Nikakve. Jedina inteligencija je ona koja je stvorila pravila i algoritme prema kojima se gradi neuronska mreža.

Ja istom vidim autonomnu vožnju kao konačan problem, ali ne apsolutno konačan (za to bi trebala prava samo-svjesna generalna umjetna inteligencija), već konačan u dovoljnoj mjeri da samovozeća vozila ne rade sranja na dnevnoj bazi.

No to ne znači da bih ikad vjerovao samovozećem vozilu.

Mogu vjerovati samo inžinjeru koji je dizajnirao sustav, a što isto neću nikad jer ne znam tko ga je platio i zašto. 

Daleko više vjerujem sudionicima u prometu iz razloga kojem sam naveo - svima (ili barem velikoj većini) je u interesu doći čitav doma. 

Samovozeća vozila nemaju interes. Samo izvršavaju kod. Što uključuje i maliciozan kod ubačen od strane hakera, recimo. 

Ili ćeš reći da će samovozeća vozila biti nemoguće hakirat? :-) 

Za to bi nam (opet) trebao samo-svijestan GAI unutar vozila. 

Ali ... gledali smo Person of Interest, pa ako imaš jedan GAI, imat ćeš i drugi. I onda imamo pravo veselje ... 

 Mozak se razvija cirka 3.5 miljarde godina, a AI nekih 30-tak godina. 

Čak i ako kažemo da je evolucija jako jako spora - zbilja misliš da to radi isto? 

Također, to što ne znaš rezultat operacije ne znači da je operacija samosvjesna i da joj možeš vjerovati, može samo značiti da je naprosto prekompleksna za jednostavnu provjeru (pod jednostavnu mislim na omjer uloženo/dobiveno). 

Za vjerovanje, potrebna je samosvijest, dublje razumijevanje situacije (ono što mozak može, a nikakav AI ne može ni blizu tome), a ne izvršavanje IF-ova (banalizirano funkcioniranje AI-a - izvršavanje instrukcija bez razumijevanja konteksta).