Trebaju li budući roboti imati pravo na samoobranu

 Super argument. Sigurno te velečasni tome podučio.

Pozdrav Afaron!

" S tim da više ne bi trebali nazivati to "ljudska prava" nego nekako drugačije. Možda "prava živih svjesnih suosjećajnih bića" ili šta ti ja znam..ali ovo "suosjećajnih" je bitno jer nemožeš dati sva prava potencijalnoj mašini za ubijanje bez obzira koliko je svjesna i inteligentna...mora imati neke moralne/etičke filtere ili limite...
Ali gdje onda životinje upadaju u sve to...pogotovo ove svjesnije/inteligentnije? Teško je povući granicu, što ne znači da treba odustati od ovog problema.."

Iz takvih stvari ti je najbolje vidljivo da to trebaju ostati ljudska prava. Sve drugo stvoriti će kaos.
Stvari najbolje funkcioniraju kada postoji red.

Ljudi nisu svjesni negativnih implikacija stvaranja "samosvjesnih" robota. Roboti nikad neće biti samosvjesni na način na koji smo mi, bez obzira koliko bili napredni i nakljukani tehnologijom jer nije moguće tehnologijom rekreirati ljudski živčani sustav u pravom smislu riječi, to bi bila više nesvjesna nevjerojatno složena simulacija, dakle roboti bi i dalje bili nesvjesni, a imali bi sva prava kao i ljudi. Tu vidim nevjerojatno negativne implikacije.

 

WTF? Pa u ramu vec imas kesirano pun kufer toga po defaultu. Gdje ce ti jos i swap stati?

Nije, jer izričito kaže da vrijedi samo onda kad nije u konfliktu s prvim i drugim, dakle, naredba da počisti radioaktivni materijal suspendira treći zakon jer je naređeno, ali i sama činjenica da će, ukoliko robot ne djeluje, doći do ljudskih žrtava, mu zapravo naređuje da djeluje i bez eksplicitne naredbe, već na temelju prvog zakona.

 

Što se tiče oružja, obrambeno oružje može funkcionirati - ako ne djeluje, nastati će veće ljudske žrtve nego ako djeluje. Problem nastaje ako AI krene kreativno tumačiti te zakone, pa svako ponašanje počne opravdavati većim dobrom.

 

Friday:

Živi na rubu, isključi swap :-)

Sjećam se Asimovljevih kratkih priča na temu tih zakona, jedna mi je posebno ostala u sjećanju.

Kada su na nekoj istraživačkoj postaji na nekom udaljenom planetu (ili mjesecu, svejedno) poslali robota da skupi neki uzorak iz tog nekog jako štetnog okoliša (kojeg su istraživali)  pa mu nisu dali dovoljno eksplicitnu naredbu, nego onako ovlaš - odi tamo i skupi uzorak...

 

Kad bi krenuo iz baze, gdje za robota nije bilo uopće štetno, sve je bilo oke, no kako se približavao mjestu uzimanja uzorka, tako se razina štetnosti povećavala i robot se u jednom trenutku okrenuo jer je treći zakon nadjačao drugi. Onda bi u povratku razina štetnosti opala, pa se opet okretao natrag da ide po uzorak i tako ukrug :)

A ovi ga ne mogu kontaktirati jer naravno da nešto ometa komunikaciju... Uglavnom, fora :)