Robot kriv... E jebo me pas!
Robot kriv... E jebo me pas!
To je, zapravo, izvrsno rješenje. Isto kao što je kriva firma, a ne neki Pero Perić koji radi u firmi kada se nešto sistemski zezne, a džinovskih proporcija što nema teorije da Pero može platiti. I onda firma plaća odštetu.
Robot ima pravnu osobnost, (kao i firma), mora biti osiguran, napravi neku štetu, osiguranje koje plaća vlasnik isplaćuje naknadu.
To sve ima smisla u pravnom kontekstu. Postaje besmisleno kada netko tko nema pojma ni kako se našao na nekoj parlamentarnoj sjednici ni o čemu se radi krene bulazniti svoje "go to" mantre o duši ili nečemu što prodaje svojim ovčicama kao dio svog životnog habitusa...
"Na drugi dio pitanja, kako organizirati zakonodavno proceduru da bude i demokratska i efikasna i na korist svima – nemam odgovora..."
Ja sam za to da zakone donose - roboti. Ono, napraviš robota koji iz svih mogućih izvora crpi vijesti (u konkretnom slučaju znanosti može i znanstvene radove), sve to pregledava i donosi neke svoje ocjene što bi moglo biti štetno za čovjeka u budućnosti, te preko noći kroji zakone: donosi ih, stavlja van snage, mijenja i dopunjuje... I to rok primjene odmah, dok si izašao van iz stana - kriv si! Za što, nije bitno...
Jako interesantan članak BTW!
Robot kriv... E jebo me pas!
Pravo poznaje termin "act of god" pa zar "act of robot" nije realnija kategorija?
Tko odgovara? Odgovara vlasnik robota kao što je nekad prije odgovarao vlasnik roba. Odgovarati može samo netko tko uz odgovornost ima prava i slobode, a roboti to nemaju.
Tko odgovara? Odgovara vlasnik robota kao što je nekad prije odgovarao vlasnik roba. Odgovarati može samo netko tko uz odgovornost ima prava i slobode, a roboti to nemaju.
Dobra analogija jer upravo primjer robova govori da za njih NIJE odgovarao vlasnik.
(Dapače, vlasnik, ovisno o zakonodavstvu, je mogao odgovarati za zlo koje je nanio vlastitom ili tuđem robu).
https://en.wikipedia.org/wiki/Slavery_in_ancient_Greece#Status_of_slaves
Tko odgovara? Odgovara vlasnik robota kao što je nekad prije odgovarao vlasnik roba. Odgovarati može samo netko tko uz odgovornost ima prava i slobode, a roboti to nemaju.
A zašto robot ne bi imao prava i sloboda? Zato sto nema duse kao sto kaze gdja. Petir? 
To je, zapravo, izvrsno rješenje. Isto kao što je kriva firma, a ne neki Pero Perić koji radi u firmi kada se nešto sistemski zezne, a džinovskih proporcija što nema teorije da Pero može platiti. I onda firma plaća odštetu.
Robot ima pravnu osobnost, (kao i firma), mora biti osiguran, napravi neku štetu, osiguranje koje plaća vlasnik isplaćuje naknadu.
Ne da nije izvrsno rješenje, već nije ni dobro. U idealnom slučaju, ako robot uvijek donosi ispravnu odluku, onda je problem u zakonodavstvu u kojem zbog ispravne odluke možeš biti kriv. Ako robot može donijeti neispravnu odluku, onda je ta mogućnost ekvivalent kvalitete uređaja. Kad uređaj ima grešku koja, uz ispravno korištenje i ispravno održavanje, može ugroziti ljude ili imovinu, to je i dalje odgovornost proizvođača, čak i ako je uređaju prošao garantni rok, te je zadovoljio sve ateste.
Ne, ti možeš donijeti ispravnu odluku, a i dalje napraviti štetu. Auto se kreće prema osobi koja se poskliznula i pala na cestu, skrene u izlog da je izbjegne i napravi materijalnu štetu, ali je i dalje napravio materijalnu štetu.
Ja nikako nisam zadovoljan sa tim objasnjenjima. Nesto sto je programirano da obavlja posao na posve odredjen nacin (ma sta god bilo posrijedi) tesko da moze biti odgovorno za nastalu stetu. Razumijem da je pravno ispravno i da trenutno mozda nema boljeg rjesenja. Ali mi je to i dalje besmislica...
Ja nikako nisam zadovoljan sa tim objasnjenjima. Nesto sto je programirano da obavlja posao na posve odredjen nacin (ma sta god bilo posrijedi) tesko da moze biti odgovorno za nastalu stetu. Razumijem da je pravno ispravno i da trenutno mozda nema boljeg rjesenja. Ali mi je to i dalje besmislica...
Ali ovdje ne govorimo o mikserima koji vrte posudu i ruku za miješanje (neovisno o tome jesi li u posudu stavio brašno i jaja ili kamenje i noževe i je li vani nuklearna apokalipsa ili proljetni dan), već o AI algoritmima koji moraju u letu na osnovu tisuća parametara RT obaviti neki posao - odvesti psa u šetnu, voziti automobil cestom ili nešto deseto.
Nećemo se sada pretvarati da su inteligentni programi ili roboti sto što i pritiskivač za papir ili privjesak za ključeve.
Ja nikako nisam zadovoljan sa tim objasnjenjima. Nesto sto je programirano da obavlja posao na posve odredjen nacin (ma sta god bilo posrijedi) tesko da moze biti odgovorno za nastalu stetu. Razumijem da je pravno ispravno i da trenutno mozda nema boljeg rjesenja. Ali mi je to i dalje besmislica...
Ali ovdje ne govorimo o mikserima koji vrte posudu i ruku za miješanje (neovisno o tome jesi li u posudu stavio brašno i jaja ili kamenje i noževe i je li vani nuklearna apokalipsa ili proljetni dan), već o AI algoritmima koji moraju u letu na osnovu tisuća parametara RT obaviti neki posao - odvesti psa u šetnu, voziti automobil cestom ili nešto deseto.
Nećemo se sada pretvarati da su inteligentni programi ili roboti sto što i pritiskivač za papir ili privjesak za ključeve.
Ma znam, ali svejedno mi je nejasno da se moze abolirati one koji su tu spravu isprogramirali ili doveli da to nesto obavlja. Onda tako nekako mozemo i krivnju ako nesto negdje ne radi (ili cini stetu) svaliti na windowse. Znaci nije kriv ni microsoft ni implementator ni korisnik nego racunalo (ili os, svejedno).
To me neodoljivo podsjeca na sudjenje HDZ-u.
Ja nikako nisam zadovoljan sa tim objasnjenjima. Nesto sto je programirano da obavlja posao na posve odredjen nacin (ma sta god bilo posrijedi) tesko da moze biti odgovorno za nastalu stetu. Razumijem da je pravno ispravno i da trenutno mozda nema boljeg rjesenja. Ali mi je to i dalje besmislica...
I covjek je programiran da radi na odredjen nacin. Mozak mu je doduse malo kompleksniji od mozga prosjecnog tostera, ali i dalje radi po zadanom programu. Hocemo li onda kriviti njegovog roditelja ili uciteljicu iz vrtica za njegovo lose programiranje?
Ja nikako nisam zadovoljan sa tim objasnjenjima. Nesto sto je programirano da obavlja posao na posve odredjen nacin (ma sta god bilo posrijedi) tesko da moze biti odgovorno za nastalu stetu. Razumijem da je pravno ispravno i da trenutno mozda nema boljeg rjesenja. Ali mi je to i dalje besmislica...
I covjek je programiran da radi na odredjen nacin. Mozak mu je doduse malo kompleksniji od mozga prosjecnog tostera, ali i dalje radi po zadanom programu. Hocemo li onda kriviti njegovog roditelja ili uciteljicu iz vrtica za njegovo lose programiranje?
Pa dok nije punoljetan, da, krivit cemo roditelje i oni ce odgovarati
Ja nikako nisam zadovoljan sa tim objasnjenjima. Nesto sto je programirano da obavlja posao na posve odredjen nacin (ma sta god bilo posrijedi) tesko da moze biti odgovorno za nastalu stetu. Razumijem da je pravno ispravno i da trenutno mozda nema boljeg rjesenja. Ali mi je to i dalje besmislica...
I covjek je programiran da radi na odredjen nacin. Mozak mu je doduse malo kompleksniji od mozga prosjecnog tostera, ali i dalje radi po zadanom programu. Hocemo li onda kriviti njegovog roditelja ili uciteljicu iz vrtica za njegovo lose programiranje?
Gle, za klince koje u trgovini urlaju da nesto hoce, ruse stvari, pljuju po podu, tuku drugu djecu i psuju - da, ja krivim roditelje
Ja nikako nisam zadovoljan sa tim objasnjenjima. Nesto sto je programirano da obavlja posao na posve odredjen nacin (ma sta god bilo posrijedi) tesko da moze biti odgovorno za nastalu stetu. Razumijem da je pravno ispravno i da trenutno mozda nema boljeg rjesenja. Ali mi je to i dalje besmislica...
I covjek je programiran da radi na odredjen nacin. Mozak mu je doduse malo kompleksniji od mozga prosjecnog tostera, ali i dalje radi po zadanom programu. Hocemo li onda kriviti njegovog roditelja ili uciteljicu iz vrtica za njegovo lose programiranje?
Gle, za klince koje u trgovini urlaju da nesto hoce, ruse stvari, pljuju po podu, tuku drugu djecu i psuju - da, ja krivim roditelje
Hoce li onda robot tek nakon tri service packa postati odgovoran za svoje postupke?
Djeca nisu odgovorna za svoje postupke jer jos nisu "isprogramirana" do kraja. Roboti ce iz tvornice izlaziti sa gotovim HW/SW-om.
Samo sam pročitao naslov ali ne i članak, ali odgovor na to pitanje je dao legenda Adam Curtis u svom uradku, topla preporuka svima ;
krivnja nije niti bitna jer nema kaznenog postupka za robote (isključiti mu napajanje?), tako da sve štete jednostavno pokrije osiguranje koje solidarno plaćaju proizvođač, prodavatelj i korisnik robota u omjeru 5:2:3 ili 6:1:4, ovisno o tome tko ima najviše putra na glavi u incidentu (što je pak posao forenzike). može? 
Ma znam, ali svejedno mi je nejasno da se moze abolirati one koji su tu spravu isprogramirali ili doveli da to nesto obavlja. Onda tako nekako mozemo i krivnju ako nesto negdje ne radi (ili cini stetu) svaliti na windowse. Znaci nije kriv ni microsoft ni implementator ni korisnik nego racunalo (ili os, svejedno).
To me neodoljivo podsjeca na sudjenje HDZ-u.
Normlano da je nejasno i ovo je jeftin pokušaj kompanija da sa sebe u što većoj mjeri speru bilo kakvu odgovornost i samim time buduće tužbe i odštete.
Pošto se ovdje ne radi o nećemu što smatramo čovjekom, onda ono nužno ima svog vlasnika. I za njegovo ponašanje je odgovoran vlasnik. Ukoliko vlasnik ne može predvidjeti i/ili kontrolirati ponašanje svog vlasništva, a ne želi odgovarat za slučaj da ono učini neku štetu onda ne možeš tog robota stavljati u situaciju gdje ono tu neku štetu i može napraviti.
Po meni vrlo jasno i jednostavno. Prva odgovornost je ona vlasnika i sve tužbe i odštete idu protiv vlasnika.
Znači ako mene udari AI auto, ja ne tužim BMW ili Mercedes nego tužim vlasnika tog auta, a ako vlasnik tog auta smatra da je do nesreće došlo zbog toga što se auto nije ponašao onako kako su mu iz Audija garantirali, to neka on riješi s njima ja s tim nemam veze. Odnosno još jednu stepenicu niže, ako postoji, tužim trenutnog korisnika te stvari. U slučaju auta to može biti i vozač, a ne nužno vlasnik.
I sad, kad je civilizacijsko znanje postalo toliko kompleksno, a još je vrelo informacija isprerešetano kopijama, pardon "zaboravljenim fussnotama", i "alternativnim činjenicama", dobar dio pučanstva je ponovno udaljeniji od dosega i shvaćanja znanstvenih disciplina nego u doba pisanja hawkingove knjige. Punom parom se zahuktao reakcionizam vjerskih/nacionalističkih fanatika, ludita, i egotripera koji misle da, ako znaju neku svoju mantru za karijeru biznismena, ravnatelja ili političara, ili su dobili/zadužili se//naslijedili neke novce, automatski znaju sve o svemu. Pišu se peticije podrške ili pobune jer rulja opet ima moć. Sad nije linčovanje na nagovor, nego se to zove demokratska većina na populističke poruke. Zakonodavci naravno da nisu dorasli bijegu tehnologije, kad su postavljeni kao politčki ili fah idioti. Što njima ima tko davati savjete kad nije u njihovoj pobjedničkoj stranci. Luzer.
Točno od početka do kraja.
Točno od početka do kraja.
p.s.
europarlament je trebao barem uvesti osnovni test inteligencije za europarlamentarce, pa odbiti predložene idiote iz država članica.
Nisam pobornik čovjeka po mjeri, tj. mjerenja vrijednosti isključivo po IQ testovima što vole raditi u americi (iako su si odabrali trumpa za predsjednika) ali za ovo sam najozbiljnije. Eu parlament je tijelo koje nemora ovisiti o trenutačnoj razdiobi plijena seoskih stranaka i politikanstva iz kojekakvih lokalnih izbora. Netko iole pametan bi barem šutio ili pitao o čemu se tu priča. Mislim kolko sam upućen u dnevne politikaske kombinacije, pa ženska je izredikulizirana čak i u svojoj seljačkoj stranci. I sad zastupnica koju je poslala nekadašnja seljačka stranka iz nazadne hrvatske u EU parlamentu skupila 38 druga redikula i bez srama navalila sramotiti ionako osramoćenu državu sa idejama iz 19. stoljeća na fakin izvješće o preporukama Europskoj komisiji o pravilima građanskog prava o robotici. Dobro da "robote" nije proglasila bezbožnicima.
pps
koja je priča sa ovim trajno uklonjenim "sexy taboo" koji je svima ne sve postove popikao td?
Tko je poslovno sposoban i smije birati i biti biran, smije biti i eurozastupnik. Dakle, ako baš nije debil, ne znam na koji način smisliti zakon koji bi bio pravedan, a ne bi oduzeo aktivno i pasivno biračko pravo punopravnim građanima.
Po meni je problem što su eurozastupnici često, ne samo u našem slučaju, ljudi koji nisu baš stvarni predstavnici narodnih interesa države iz koje dolaze, nego ih njihove stranke delegiraju da im ne stvaraju probleme doma (recimo, netko se svađa s trenutnim vodstvom stranke), pa onda dobije tu dobru sinekuru vani (primanja u europarlamentu su abnormalna) i nema se šta bunit i pravit probleme stranci doma. Međutim, njegovi stavovi (koje biračka baza doma zapravo obično uopće i ne zna) i njegove sposobnosti uopće nisu razlog zbog kojega te "zastupa".
S godinama mi se čini da je bolje da ne pišu zakone o nečemu što ne razumiju. Bolje je pratiti praksu i nakon nekog vremena složiti jednostavnu regulativu. Kad razgovaramo o zakonima uvijek se sjetim razgovora s jednim amerikancem koji je tako lijepo objasnio današnju situaciju sa pravom i zakonima (koje usput rečeno pišu pravnici). Čovjek je rekao da je na djelu politika "Keeps lawyers busy". Pišu zakone koje nitko (pa ni sami ne razumiju) da bi se poslije zapošljavali odvjetnici i naplaćivali tumačenja zakona.
Tko je poslovno sposoban i smije birati i biti biran, smije biti i eurozastupnik. Dakle, ako baš nije debil, ne znam na koji način smisliti zakon koji bi bio pravedan, a ne bi oduzeo aktivno o pasivno biračko pravo punopravnim građanima.
Po meni je problem što su eurozastupnici često, ne samo u našem slučaju, ljudi koji nisu baš stvarni predstavnici narodnih interesa države iz koje dolaze, nego ih često njihove stranke delegiraju da im ne stvaraju probleme doma (recimo, netko se svađa s trenutnim vodstvom stranke), pa onda dobije tu dobru sinekuru vani (primanja u europarlamentu su abnormalna, ne samo za naše prilike) i nema se šta bunit i pravit probleme stranci doma, ali zapravo njegovi stavovi (koje tobožnaj biračka baza doma zapravo obično uopće i ne zna) i njegove sposobnosti uopće nisu razlog zbog kojega te tobože zastupa.
A barem nešto na osnovi da se zastupništvo češće rotira, i smanji plaća za 90% da se ne uhljebe. Jer ovi koji su sad tamo... su neki relikti od lokalpolitičkih trgovina od prije par godina.
vjerujem da je tako i sa zastupnicima ostalih držažva. Ja se divim kako uopće nešto konstruktivno donesu na tom parlamentu, pa pola tih koji su sad
tamo nebi mogli upasti ni u naš sabor. A delegiraju o tisuću puta ozbiljnijim stvarima od našeg prepucavanja gdje su nestale dnevnice i što je rekao pernar o čemtrejlsima.
Tamo ti svatko ima neku svoju agendu i komplekse.
Zastupnici iz normalnih zemalja (Njemačka, Francuska, Nizozemska i tako to...) su uglavnom normalni.
Zastupnici iz "nove" Evrope, ovi bivši ruski protektorati: Latvijci, Litvanci, Estonci posebno, oni su čitavi još poplašeni od Rusa i tko o čemu - oni o Rusima. Ali bez zeke. Koji god zakon spomeneš (Right to be forgotten, recimo, pravo na elektronički zaborav na Internetu), oni počnu od Sovjeta i šta su Rusi njima radili. Nešto nevjerojatno. I onda nas, novinare iz Hrvatske, pokušavaju uvjeriti da je nama bilo isto iako im 15 puta kažeš da mi, ekšli, nismo bili pod Rusima.
I tako...
Da, čudo je da to uopće funkcionira.
A da se vratim na odgovornosti "autonomnog automatičkog AI sistema" u određenom trenutku... mislim da je Ajar najbolje precizirao hipotetske nadolazeće slučajeve:
najbitnija je forenzička analiza
koja će odrediti dali je do nezgode došlo zbog sistemskog kvara i nedorađenosti softvera/hardvera (onda je kriv proizvođač/programeri),
zanemarivanja/neodržavanja (krivo održavanje)
možda do hackerskog preuzimanja(vjerojatno opet odgovornost i na softverskoj podršci ali uglavnom na napadačima-hackerima), ili višoj sili, to jest
spletu nesretnih okolnosti u kojem slučaju možemo osuditi stroj na 100 udaraca bičem, ako to žrtvu i oštećene strane baš veseli.
Evo par zanimljivih okolnosti koje su donekle on topic:
https://www.wired.com/2017/02/self-driving-cars-cant-even-construction-zones/
https://www.wired.com/2017/02/texting-driving-isnt-millennial-problem-engineering-problem/
Ne, ti možeš donijeti ispravnu odluku, a i dalje napraviti štetu. Auto se kreće prema osobi koja se poskliznula i pala na cestu, skrene u izlog da je izbjegne i napravi materijalnu štetu, ali je i dalje napravio materijalnu štetu.
Ti diskriminiraš AI. Ajmo analizirati istu situaciju s vozačem od krvi i mesa u funkcionalnoj pravnoj državi. Pod uvjetom da je donesena ispravna odluka, već je implicirano da vozač nije napravio prekršaj ili nesavjesno vozio prije incidenta (znači, vozilo je ispravno, brzina prilagođena i slično). Pješak se posklizne i pade na cestu, a vozač za izbjeći pješaka pogodi u izlog i napravi materijalnu štetu. Tko je odgovoran za tu materijalnu štetu?
Ajmo krenuti situaciju, samo ovaj put se pješak nije poskliznuo, već je vozač iz suprotnog smjera doživio srčani i prešao na lijevu stranu, pa je vozač skrenuo u izlog za izbjeći sudar. Tko je odgovoran za štetu.
U oba slučaja je odgovoran onaj tko je do situacije doveo - znači pješak ili drugi vozač, bez obzira na činjenice da je do situacije došlo nehotično (niti se pješak namjerno poskliznuo niti je drugi vozač namjerno doživio srčani) i da je sam kontakt izbjegnut. U takvoj situaciji je najveći problem dokazati činjenično stanje: da je vozač do incidentne situacije vozio po propisima, da je reakcija vozača bila opravdana jer bi bez nje sigurno došlo do nesreće, te da je vozač u tom trenutku imao razlog vjerovati da time umanjuje posljedice nesreće (djelovanje u dobroj vjeri). Ukoliko to uspije dokazati, vozač NE odgovara za štetu.
Kad to primjenimo na AI koji ima logove svih senzora i log "razmišljanja" pri donošenju odluke, to dokazivanje je trivijalno sve dok ne postoje indicije da bi AI mogao lagati.
U oba slučaja je odgovoran onaj tko je do situacije doveo - znači pješak ili drugi vozač, bez obzira na činjenice da je do situacije došlo nehotično (niti se pješak namjerno poskliznuo niti je drugi vozač namjerno doživio srčani) i da je sam kontakt izbjegnut. U takvoj situaciji je najveći problem dokazati činjenično stanje: da je vozač do incidentne situacije vozio po propisima, da je reakcija vozača bila opravdana jer bi bez nje sigurno došlo do nesreće, te da je vozač u tom trenutku imao razlog vjerovati da time umanjuje posljedice nesreće (djelovanje u dobroj vjeri). Ukoliko to uspije dokazati, vozač NE odgovara za štetu.
No onaj nad kime je šteta počinjena i dalje tereti vlasnika automobila. I tu onda na scenu stupa obavezno siguranje koje tu štetu pokriva, automatski, a osiguranje se onda pokušava naplatiti od treće strane koju smatra odgovornom za nesreću, ako uspije dokazat odgovornost (ako ona uopće postoji, u slučaju je do nesreće došlo zbog toga što se vozač nije pridržavao uvjeta ugovora).
Hoce li onda robot tek nakon tri service packa postati odgovoran za svoje postupke?
Djeca nisu odgovorna za svoje postupke jer jos nisu "isprogramirana" do kraja. Roboti ce iz tvornice izlaziti sa gotovim HW/SW-om.
Ovo mi nema smisla na nekoliko načina. U najboljem slučaju, robot je uvijek dijete, jer zapravo nikad nije isprogramiran do kraja.
Ako robota isprogramiraš da ode do provalije, pređe rub i padne, on će to napraviti, makar se razbio. Probaj čovjeku reći da to napravi.
Ideja kazne (bilo novčane, bilo neke druge) je pritisak društva na pojedinca da se prilagodi i time društvu radi manju štetu/bude koristan/štogod.
Ako robot skrivi neku štetu, možeš ga stoput kaznit i on će stoprvi put opet napraviti onako kako je isprogramiran.
Uz rizik da zvučim ko Petirka, robot nije čovjek jer jednostavno nema slobodnu volju.
(Tu naravno pričam o robotima danas. Ako je ideja predvidjeti zakonske okvire za nekakve potencijalne robote budućnosti, koji bi imali svoju volju (a što nije ideja članka), onda ionako pričamo o robotima koji su po praktično svemu (bitnom) istovjetni ljudima, pa tako mogu i zarađivati za sebe svojim radom i imati status jednak ljudskom, te sva pripadajuća prava i obaveze.)
Znam da bi regulativa koja zakonski odgovornim drži proizvođača (uključivo i programera) usporila razvoj, ali osobno smatram da već i danas programeri imaju premalo odgovornosti za posao koji rade - sav softver uredno dolazi uz disclaimere kako proizvođači nisu odgovorni ni za što, program ti zapravo nikad nisu niti prodali, već samo dali na korištenje, a ako ti taj program sjebe neki važan podatak, to je tvoj problem. Jer, kao, kaj nisi radio backup. Na podacima koje upravo stvaraš...
