Samo čovjek može razlikovati zlo i dobro, jer je – kako piše u Bibliji (Pos. 3:5) – jeo sa „stabla spoznaje“, što će reći da ima slobodnu volju (da čini dobro i zlo) dok je životinje nemaju. Stoga čovjek sudi prema svojoj savjesti, što životinja ne može. Isto vrijedi i za strojeve. Je li stroj kriv što je radniku odrezao ruku? Nije, naravno. Kriv je radnik koji se nije pridržavao propisa zaštite na radu ili poslodavac koji mu nije osigurao zaštitna sredstva, serviser koji nije otklonio kvar, proizvođač koji ga je načinio opasnim… Na kraju je uvijek kriv čovjek, taj i taj čovjek.

No može biti kriv i kompjutor. Sudbina ljudi uskoro će naime ovisiti o moralnoj prosudbi računala - kada se na cestama pojave autonomna vozila, automobili bez vozača. Vozilo juri prema pješacima prijeteći da ih pregazi. Smije li se vozilo da izbjegne pješake zabiti u prepreku na cesti – i ugroziti život putnika?  Je li dužnost proizvođača i prijevoznika štititi živote putnika koji su mu povjereni ili živote svih sudionika u prometu? Ili su putnici samim ulaskom u vozilo prihvatili rizik od nesreće, što čini njihov život manje zaštićenim, manje vrijednim? Tko će o tome odlučivati? Čovjek ne može  jer ne upravlja vozilom. Odluku  može donijeti samo kompjutor. Kako?

 Pitanje što i kako činiti u tom i sličnim slučajevima bila je tema opsežnog istraživanja što ga je provela međunarodna skupina znanstvenika (iz SAD, Kanade i Francuske) te ga objavila u časopisu Nature u broju od 1. studenoga 2018. godine. Njihov se „moral machine experiment“ sastojao u istraživanju moralne prosudbe 39 610 000 ispitanika iz 233 zemalja. Svi su ispitanici morali odgovoriti na devet pitanja, devet preferencija: što treba činiti? Treba li poštedjeti ljude (ili životinje), nastaviti voziti u istom smjeru (ili skrenuti da bi se izbjegla nesreća), spasiti putnike (ili pješake), spasiti više (ili manje) života, poštedjeti muškarce (ili žene), mlade (ili stare), pješake koji prelaze po propisu (ili one koji prelaze na neobilježenim mjestima), jake (ili slabije) i, na kraju, radije spasiti utjecajne (ili neutjecajne) ljude.

Rezultati ankete su zanimljivi. Da religiozni ljudi više cijene ljudski život od onih nereligioznih, pa im je lakše pregaziti psa ili mačku na cesti, moglo se pretpostaviti,  no iznenadilo me da muškarci manje vrednuju ženski život od žena: iako bi oba spola radije poštedjela ženu  nego muškarca, muškarci su u tom pogledu manje odrješiti. Gdje je tu kavalirština?

Koliko pak moralne prosudbe ovise o kulturi ponajbolje se vidi iz podjele zemalja u tri klastera: zapadni, istočni i južni. Prvi, zapadni klaster uključuje kršćanske zemlje (katoličke, protestantske i pravoslavne). Istočni klaster uključuje bliskoistočne i dalekoistočne zemlje, zemlje u kojima su dominantne vjere islam, budizam i konfucijanizam. Treći, južni klaster obuhvaća pak latinsku Ameriku, dakle Srednju i Južnu Ameriku.

Već sâm  pogled na izgled grafa učestalosti odgovora pokazuje oštre razlike u moralnim prosudbama. Iako se mnogo piše, a još više misli, kako su u istočnim, posebice islamskim zemljama žene manje vrijedna ljudska bića, vrijednost ženskog  života ista je – barem kako kaže ovo istraživanje – kao i u zapadnim. Život psa ili mačke najviše se vrednuje u zemljama Južnog klastera, baš kao i život žena te mladih i utjecajnih ljudi. Najmanja se razlika u vrijednosti života vidi u zemljama Zapadnog klastera, gdje dijagram poprima gotovo oblik pravilnog mnogokuta (deveterokuta). Rekao bih da je to posljedica ujednačavanja vrijednosti u zapadnom svijetu, pa tako i onih moralnih.

I što sad? Kako programirati autonomno vozilo?

Umjesto da daje odgovore „pokus moralnog stroja“ otvara nova pitanja. Prije svega dolazi pitanje prema čemu se treba ravnati. Očito ne postoji jedinstvena moralna preferencija ni među ljudima ni među narodima,  pa bi autonomno vozilo trebalo programirati prema moralnim načelima jednog od triju klastera, a možda čak i zemlje u kojoj prometuje. No i da se vozilo najpreciznije programira, opet bi njegovi postupci došli u sukob s nečijom savješću.

Savjest, sposobnost razlikovanja dobrog i zlog podrazumijeva i odgovornost za posljedice:  „Kad si to učinila, prokleta bila među svim životinjama i zvjeradi divljom!“ (Pos. 3:14). Ako autonomno vozilo izazove nesreću tko će za nju odgovarati? Inženjeri koji su ga programirali ili znanstvenici koji su prema statističkim pokazateljima propisali protokole ponašanja u izvanrednim situacijama?

Tko će odlučiti je li vozilo u datom slučaju postupilo moralno ispravno? Pozivanje na stav većine ne znači ništa jer što znači ako većina misli da je pravo ako meni moja savjest govori da je krivo? Zar ćemo se u moralnim pitanjima povoditi za mišljenjem većine, da ne kažem gomile (rulje), kao u nacističkoj Njemačkoj?  Savjest i s njome povezana odgovornost mogu biti samo individualne i kao takve svojstvene su samo čovjeku, no morale bi biti svojstvene i kompjutoru – ta moderna su vremena. 

Nenad Raos, rođen 1951. u Zagrebu, je kemičar, doktor prirodnih znanosti i znanstveni savjetnik, sada u mirovini. Još od studentskih dana bavi se popularizacijom znanosti pišući za časopise Prirodu (kojoj je sedam godina bio i glavni urednik), Čovjek i svemir, ABC tehnike, Smib, Modru lastu, a u posljednje vrijeme i za mrežne stranice Zg-magazin te, naravno, BUG online. Autor je i 13 znanstveno-popularnih knjiga od kojih je posljednju, „The Cookbook of Life – New Theories on the Origin of Life“ (izišlu 2018. godine), napisao na engleskom jeziku. Urednik je rubrike „Kemija u nastavi“ u časopisu Kemija u industriji, za koji piše i redovite komentare. Nagrađen je Državnom godišnjom nagradom za promidžbu i popularizaciju znanosti 2003. godine.