Moralna dilema – kompjutora

Da bih pojasnio čitatelju o čemu se u ovom istraživanju radi, opisat ću što mu je prethodilo:

1.) Napisan je znanstveni projekt u kojem su podrobno opisane metode, razlozi i očekivani rezultati istraživanja. Na temelju tog projekta dobiven je novac, no prije je morao proći recenzentski postupak (obično dva recenzenta, naravno anonimna).
2.) Kada je istraživanje bilo gotovo u pisanju članka sudjelovalo je svih osam autora. Svaki je, razumije se, mogao kritizirati ono što su drugi napisali. Pri tome je rad pročišćen.
3.) Rad je poslan u časopis Nature. Kako taj časopis ima izuzetno visoke kriterije (objavljivanje u Nature čini vrh znanstvene karijere) urednik po svome nahođenju obično odbije 90 posto rukopisa, jer ih smatra nedovoljno relevantnima, ne ulazeći pritom u njihovu znanstveno-stručnu kvalitetu.
4.) Članak potom ide na tri recenzije, čitanja vrhunskih stručnjaka iz područja imena kojih je također nepoznata autoru.
5.) Svi se recenzenti trebaju složiti da je članak sa stručne strane OK, te sugeriraju manje ispravke.
6.) Autori prihvaćaju ispravke ili ih ne prihvaćaju, no ako ih ne prihvate trebaju ih valjano obrazložiti.
7.) Urednik pregledava i zaključuje jesu li sve ispravke unešene, a za one koje nisu šalje recenzentu da se složi ili ne složi s autorima.
8.) Nakon što se članak prelomi, šalje se korekturni primjerak autorima koji imaju prilike ispraviti još koju pogrešku ako je nađu.
9.) Članak izađe i onda, i onda....
onda se nađe netko od čitatelja BUG online da kaže kako sve to NE VALJA NIŠTA!

Evo jedan interesantni članak:

https://www.npr.org/sections/health-shots/2018/12/22/679083038/researchers-show-parachutes-dont-work-but-there-s-a-catch?utm_source=pocket&utm_medium=email&utm_campaign=pockethits

 

U tekstu je komentar autora članka, tako da je dostupno odmah "što je autor htio reći"

Molim, molim, možda ja ne razumijem, no kako biste vi razumjeli rečenicu (str. 60):

Of these, the most notable effects are driven by gender and religiosity of respondents. For example, male respondents are 0.06% less inclined to spare females, whereas one increase in standard deviation of religiosity of the respondents is associated with 0.09% more inclination to spare humans.

Što ćemo, ni najtvrđi znanstveni dokazi ne mogu ukloniti predrasude. Eto, to je novina našega doba: ako ti se nešto ne sviđa, to proglašavaš predrasudom, ma kakvo god osvjedočenje stoji iza toga.

Možda biste to pitanje trebali postaviti autorima jer na ono što je Visak primjetio nema se što više dodati. Zaključak je izveden iz posrednih rezultata statistike po regijama i religioznosti regije, međutim, direktni podaci govore suprotno:

https://www.bug.hr/forum/post/komentari-clanaka-bughr/moralna-dilema--kompjutora/5823717.aspx

Ne zama čemu ova diskusija vodi. Moje je bilo samo da prenesem, što vjernije i jasnije, rezulate istraživanja. Nisam ja autor toga članka! A ako Visak ima pravo, ako doista Nature objavljuje upitne, dapače krive rezultate onda se upravo tom časopisu treba uputiti kritika. U znanstvenom se svijetu to radi tako da se napiše za isti taj časopis komenatar (kritika) objavljenog članka. Stoga molim gospodina Viska da to učini!

Danen:

Što znači izjava da me ne zanimaju mišljenja ljudi koji žive u društvima gdje se ne poštuje načelo jednakosti? Netrpeljivost sigurno ne. Nemam baš ništa protiv Indijaca da u svojoj zemlji donesu zakon po kojem je radi zaštite krave lutalice potrebno ubiti šest nečistih. Koliko sam primjetio nemamo izbjegličke ili emigracijske valove iz Švedske, Njemačke ili SAD-a u smjeru Somalije, Indije i slično već samo obrnuto. Čak je i bogata Saudijska Arabija dala ženama pravo da polažu vozački ispit. Želite osporiti moju tvrdnju da svijet ide prema većoj jednakosti nalazima anonimne i neprovjerljive web ankete koja pokazuje 0,08 % veću verbalnu sklonost jednog spola u poštedi drugog. Samo naprijed. Žene Saudijske Arabije i onih par milijuna koji svake godine pokušavaju preplivati Sredozemno more govore vrlo glasno čak i dok tonu prema dnu istog mora. Postavit ću hipotetsko pitanje - kolika je šansa da Švedska donese zakon kojim će proizvođačima autonomnih vozila dati za pravo da ciljaju starce umjesto djece ili ljude umjesto sobova? Koliko dotični znanstvenici i uredništvo Naturea moraju biti ludi i odvojeni od stvarnog života da uopće pomisle kako je to opcija??

@Feudalac:

Odlomak koji citiraš, kaže zapravo da muškarci u odnosu na žene 0.06% manje su skloni poštedjeti ženu. Dakle, n% žena sklono je poštedjeti ženu, muškaraca (n-0.06)% pokazuje sklonost poštedjeti ženu u određenej prometnoj situaciji. Autori i sami kažu da ti rezultati nisu statistički značajni, ali eto navode da iako i dalje beznačajni, najveće razlike nalaze se u kategorija spol i religioznost.

 

Evo cijeli odlomak:

We assessed individual variations by further analysing the responses of the subgroup of Moral Machine users (n = 492,921) who completed the optional demographic survey on age, education, gender, income, and political and religious views, to assess whether preferences were modulated by these six characteristics. First, when we include all six characteristic variables in regression-based estimators of each of the nine attributes, we find that individual variations have no sizable impact on any of the nine attributes (all below 0.1; see Extended Data Table 1). Of these, the most notable effects are driven by gender and religiosity of respondents. For example, male respondents are 0.06% less inclined to spare females, whereas one increase in standard deviation of religiosity of the respondent is associated with 0.09% more inclination to spare humans.

Telefon2:

Ukratko, nalazi ove ankete su statistčki irelevantni na uzorku koji uopće nije, a kamoli propisno, randomiziran ali ipak se u tekstu priča o nalazima studije koji bi trebali biti uzeti u obzir od strane “policy makersa”. Jesam li ja jedini koji nije isključio mozak ili je ovo jedna od epizoda Zone sumraka?

@danen, Pa niste bas opravdali tu uzjavu. Na osnovu cega ste mogli pretpostaviti da teisti vise cijene ljudski zivot od ateista? Možete li uopšte postaviti hipotetsku situaciju u kojoj bi neko izabrao da strada čovjek umjesto zivotinje?

Po čemu sam zaključio da vjernici više cijene ljudski život od nevjernika? Prema onome što sam već objasnio na str. 2 ovog dopisivanja. Mislim da bi to svakom pametnom trebalo biti jasno, a ako me optužujete za predrasude zašto bih imao predrasude (negativne) prema ateistima kada sam i sam ateist? Razlike između teista i ateista u vrednovanju ljudskog života su male,u praktičnom smislu možda beznačajne, ali su ipak, uz razliku u spolu "the most notable effects". I što je tu krivo? To su činjenice. A što netko ima problema s prihvaćanjem činjenica nisam mu ja kriv.

Ajde da spustimo loptu sa visokih etičko-moralnih visina na praktičnu zemlju.

 

1. Kako bi AI razlikovao ateistu od teista, tako da može donjeti odluku da ubije atestu (jer oni manje cjene ljude), a ne teistu.

2. Isto kao 1 samo teist zamjeniti sa uglednik, a ateist sa neuglednik.

3. Ako je auto proizveden u Švedskoj, vlasnik mu je musliman iz Pariza a upravo vozi po Bosni, što bi AI trebao odabrat za ubit: muslimana, katolika ili ateistu?

4. Isto kao 3 ali je vlasnik Indijac iz Delhija: krava, Rom?

5. Koji ateist će kupit auto koji više voli teiste od ateista i obrnuto?

6. Koji će to proizvođač riskirati tužbu i milijunsku odštetu jer je njihov AI odlučio pregazit starog ateistu na nogostupu, a ne djete teista na kolniku?

7. Hoće li sudci suditi po moralnom kodeksu proizvođaća automobila ili zakonu države u kojoj se desio incident?

8. Hoće li autori studije i uredništvo Natura solidarno sudjelovat u isplati odštete?

9. Hoće li psi više pišat po autima čiji AI baš ne voli životinje pa će ljudi izbjegavat kupovat takve automobile jer je pseća pišoka prilično korozivna?

a. Hoće li militantni ljubitelji životinja bušiti gume takvim automobilima i hoće li se naći netko da riskira to provjerit u praksi?

 

Itd, itd, itd, pitanja je poprilično, a sva se rješavaju jednostavnim postupkom nedopuštanjem strojevima da donose moralne odluke.

 

 

@danen

Znam da su vam kolege, ali kad je nešto glupo onda je glupo.

 

 

 Poštovani g. Raos, ja nemam nikavih primjedbi na članak u Natureu, niti na samo istraživanje, nego isključivo na vašu interpretaciju istih, a što sam obrazložio u nekoliko postova, koje ste sve ignorirali.

 

Pozivate se na znanstveno dokazanu činjenicu da vjernici više vrednuju život, ali niste naveli gdje je to dokazano. Ako mislite na ovo istraživanje, vjerojatno vam je jasno da jedno istraživanje (čak i kad bi dokazivalo vašu tvrdnju, a po mojom mišljenju dokazuje upravo suprotno) nije dokazana znanstvena činjenica. A nikakav drugi dokaz niste ponudili.

Na to sam već odgovorio:

Standardna devijacija govori koliko je neki skup podataka raspršen. Recimo skup učenika s ocjenama 2, 3, 5, 5 ima veću standardnu devijaciju od skupa 3, 4, 4, 4. U ovom sučaju ja to tumačim da tamo gdje postoje veće razlike u religijskim određenjima, tj. nisu svi jednako (ne)religiozni, takvo društvo je nešto sklonije poštedjeti čovjeka u odnosu na životinju. Znači ne radi se o religioznijem društvu, nego o raznovrsnijem, a kako su religijski uniformna društva u pravilu teistička (postoje zemlje s 95% vjernika, a ne postoje s 95% ateista), to bi govorilo da ona s više ateista više cijene ljudski život. Opet, ta rečenica ne govori da ateisti više cijene ljude, nego da društva u kojima ih više ima tako razmišljaju.

Tako da to nije dokaz u prilog vašoj tezi, već upravo suprotno.

 

Osim toga priložio sam sliku iz članka gdje je u zadnjem redu eksplicitno pokazano upravo ovo o čemu pričamo, vjerojatnost poštede čovjeka u odnosu na životinju, i ona je veća kod ateista:slika

 

Dakle imamo korelaciju većeg vrednovanja ljudi s porastom raspršenosti religijskih uvjerenja, što indirektno ide u prilog ateistima i direktni podatak o većoj vrijednosti ljudskog života kod ateista.

Što se ove studije tiče sve govori protiv vaše teze, a nikakav drugi dokaz niste ponudili.

Pješaka ne treba ubit, treba pokušat sve da ga se ne ubije, ali ne tako da se riskira život nevinih (i ljudi i životinja). A autom odstraga isto će upravljat AI i ako je prvi uspio stati onda će i drugi i neće biti sudara.

 

 

p.s.

 

Da li bi ti kao proizvođač automobila riskirao tužbu vlasnika automobila koji je ozljeđen u pokušaju izbjegavanja pješaka koji nepropisno prelazi cestu, ili ćeš se samo držat zakona i tako izbjeć sve moguće tužbe? 

Ne pokazuje li ova slika da upravo nereligiozni vise cijene zivot ljudi od religioznih?

 Slažem se s tobom da prava umjetna inteligencija nije zaživila, da će joj trebati nekoliko (desetaka) godina, ali treba unaprijed razmišljati o tome, pa mislim da Asimovljevi zakoni robotike imaju dobar smjer kojega treba uzeti u obzir.