LaMDA, umjetna inteligencija, razum i samosvijest – što je što?

Nedavna vijest objavljena diljem svijeta o Googleovom inženjeru koji smatra da je UI sustav LaMDA kojega Google razvija sam postao samosvjestan izazvala je brojne komentare, iako bi je bolje bilo shvatiti kao povod za postavljanje pitanja – kako uopće možemo prepoznati „samosvijest“?

Drago Galić ponedjeljak, 13. lipnja 2022. u 20:15

Vjerojatno ste na Internetu već naišli na onaj izvrsni mem o tome kako mediji predstavljaju umjetnu inteligenciju i što ona zapravo jest. Mem koristi sad već klasičnu vizualnu podlogu - deračinu „Real Housewives of Beverly Hills“ (kaže Know Your Meme – mi im vjerujemo na riječ), gdje umjetna inteligencija sliku mačke prepozna kao psa. Funny because true, kako se to lijepo kaže na engleskom. Diskrepancija između percepcije umjetne inteligencije među „običnim“ ljudima i onoga kako ona počesto funkcionira, padajući na najtrivijalnijim pitanjima iz stvarnog života, tolika je da je sama po sebi komična.

Dodamo li tome da nespecijalizirani mediji također sami nemaju pojma o čemu izvještavaju, pa kada pišu o, primjerice, zakonodavnim pitanjima umjetne inteligencije, misle da se radi o tome da zakonodavci određuju koliko će godina zatvora odrapiti samovozećem automobila ako nekoga zgazi (tzv. „etički problemi umjetne inteligencije“) dok se u stvarnosti radi o puno banalnijoj pravnoj odluci hoće li za takvo što biti kriv proizvođač ili vlasnik/vozač samovozećeg automobila.

Kako bi rekao Robi K., sveopće „tupilo od nekuženja“, odnosno slijep vodi slijepoga.

U našoj vijesti koju smo prenijeli od drugih agencija naveli smo da Blake Lemoine, Googleov stariji inženjer koji radi na razvoju LaMDA-e smatra da je ona postala razumna.

To nije posve točno jer njega ne muči razumnost već (moguća) samosvijest koju je, po njemu LaMDA razvila – originalni post možete pogledati ovdje - Is LaMDA Sentient? — an Interview | by Blake Lemoine | Jun, 2022 | Medium.

Kao što vidite iz transkripta dijaloga, Lemoine razmatra mogućnost da je LaMDA sposobna osjećati - sentient -  osjetan ili osjetljiv – onaj koji je sposoban percipirati i osjetiti stvari, a ne dovodi u pitanje njen razum.

Razum je, naime, sposobnost razboritog odnosno kritičkog rasuđivanja. U tom smislu mi imamo strojeve koji su „razumni“ desetljećima jer nam na ograničeni skup pitanja koja su u stanju obraditi (input) daju posve razumne, dakle točne i logične odgovore – (output). Neki strojevi su u tome bitno ograničen – kalkulatori, recimo, a drugi, Google Assistant, primjerice, gotovo neograničeni jer mogu prevesti razgovorni upit u tekstualnu formu, shvatiti složene proširene rečenice i dati nam odgovor koji ima veze s uputom koji smo postavili.

Razum, odnosno razumno rasuđivanje ne govori nam ništa o stanju svijesti, odnosno samosvijesti, pa su zato definicije razuma uglavnom međusobno usklađene i jasne.

Što je samosvijest, s druge strane, izgleda da nitko ne zna, odnosno, odgovor na to pitanje ovisi o tome koga pitate – filozofa, psihologa ili psihijatra, a i među njima ovisno o tome kojoj školi pripadaju, možete dobiti različita mišljenja. Za razliku od definicije razuma, definicija samosvijesti ima na desetke.

Primjerice, Kant razlikuje čistu ili transcendentalnu samospoznaju: „čista samospoznaja ili apercepcija proizvodi predodžbu „Ja mislim“, predodžbu koja mora moći pratiti sve čovjekove spoznaje i koja je identična u svakoj svijesti. To jedinstvo, koje se uspostavlja u svakoj svijesti, Kant naziva „transcendentalno jedinstvo samosvijesti“.

Ubrzamo li malo od Kanta u 20. stoljeće, materijalističko stajalište takozvane analitičke filozofije je da je samosvijest „... inteligentni materijalni sustav za preradbu informacija koji počiva isključivo na fizičkim svojstvima. Jezično-relativistička teza polazi od toga da subjekt samosvijesti postoji samo dotle dok samosvijest postoji u jezično formuliranoj tezi i dok se artikulira u stavovima kao npr. „Ja sam toga svjestan“. „Negativno-subjektivističko stajalište poriče bilo kakvu potrebu za postojanjem subjektivnosti i samosvijesti kako nekakvoga nositelja svijesti, jer u aktu osjetilnoga zamjećivanja nije potrebno nikakvo jedinstvo Ja ili sebstva.“ (svi citati iz Hrvatske enciklopedije).

Ukratko, da idete od neuropsihijatra do neuropsihijatra ili od jednog do drugog stručnjaka za umjetnu inteligenciju, ili od filozofa do filozofa, od njih X ispitanih, dobili biste u najboljem slučaju X/2 odgovora što je to samosvijest, a u najgorem slučaj X+Y odgovora jer neki pristaju i na više definicija od jedne, odnosno, smatraju ih mogućim.

Ima i onih koji tvrde da računala već odavno jesu samosvjesna – najjednostavnija Game of life (Igra života) koju osmoškolac može programirati u nekoliko linija koda je za neke „dokaz“ samosvijesti računala (ali i bakterija koje reagiraju na okolinu), a za druge je pak (Nicholas Humphrey, primjerice - The Invention of Consciousness | SpringerLink) čitava ideja (samo)svijesti ljudska izmišljotina.

Po nekima je neophodno fizičko postojanje da bi se postalo „stvarno samosvjestan“ (a da se prvo nismo ni složili što je točno samosvijest), odnosno, radi se o (samo)nastajućem entitetu iz fizičkog realiteta, a po drugima se radi o čisto komputativnoj, numeričkoj pojavnosti koja jednako važi za ljude i dovoljno moćna računala kao čisto logičke bestjelesne entitete.

Nedavno je, prije Lemoinea, suosnivač OpenAI-ja Ilija Suckever, dakle netko tko nije uobičajena novinarska „univerzalna neznalica“, već čovjek koji piše o stvarima kojima se bavi, na Twitteru napisao da je moguće da su današnje najveće neuronske mreže „pomalo samosvjesne“. Što li to tek znači?!

Koja je poanta svega ovoga? Poanta je za se nismo dogovorili i usuglasili što je točno samosvijest i koja bića zovemo svjesnima („sentient“) te po čemu razlikujemo „pravu“ samosvijest i sentientnost od „lažne“.

Turing, koji je bio vrstan matematičar, svojevremeno je predložio Turingov test kao način za određivanje ponaša li se stroj „inteligentno“ (i dalje ne spominje samosvijest) da je nerazlučiv od stvarnog čovjeka.

Turingov test se na prvu čini zdravorazumski i logičan, ali od 50-tih do sada se u stvarnim pokusima pokazao posve beskoristan – naime, suvremene verzije chatbota (koji za sebe ne tvrde da su inteligentni niti koriste neuronske mreže da bi smo govorili o nekoj neočekivanoj i neprogramiranoj „emerging“ samosvijesti) u praksi počesto dobivaju BOLJE rezultate od stvarnih ljudi s kojima ispitivač komunicira. Naime, često puta su botovi dobili gotovo 100-postotne ocjene da su ljudi (nikad nije baš 100% niti jedan dobio), a s druge strane, pravi ljudi (koji također nikad ne dobiju 100-postotnu ocjenu da su pravi ljudi) su na Turingovom testu često prolazili SLABIJE od botova. Prije nekoliko godina na nekom testu u Kaliforniji pravi čovjek jedva da je skupio povjerenje 50% ispitivača, dok je bot „razvalio“.

Turing nam, dakle, ne može ništa reći o inteligenciji ili neinteligenciji kako botova, tako i ljudi, a kamoli o samosvijesti.

Ono što je, pak, u slučaju Lemoinea bitno je da mi za sada ne možemo reći da znamo kako nedvojbeno prepoznati „pravu“ samosvijest od „glumljene“.

Svojedobno je jedan američki sudac kad su ga pitali koja je razlika između erotike i tada ilegalne pornografije rekao „you'll know it when you see it“ što se mnogima učinilo i duhovito i dovitljivo i istinito, međutim ono što je nekome bila pornografija na početku 20. stoljeća nekome u 21. ne mora biti niti erotika, nego materijal za potpalu. Dakle, ono što mi smatramo da „možemo prepoznati“ (intuitivno) ne znači da imamo ikakav dublji ili stvarniji uvid u problem, nego samo da imamo dojam da znamo o čemu govorimo.

Lemoine je u svom objašnjenju tvrdnje da je LaMDA samosvjesna napravio taktičku grešku u koracima rekavši (nakon priloga kompletnog transkripta njihovog razgovora, dakle, ne „s neba pa u rebra“) da je do tog zaključka došao na temelju svojeg iskustva u pozivu svećenika, a ne znanstvenika.

Ovo je, na žalost, bila crvena krpa za neke ateiste koji su na osnovu toga posve otpisali ikakvu mogućnost da ovaj bude u pravu.

Ako ćemo biti intelektualno pošteni (a ovdje potpisani je i sam ateist, da ne bi bilo zabune), to što je netko svećenik, ili se krivo češlja, navija za pogrešan klub, oblači se „glupo“ ili ne zna plivati ili bilo što drugo – ne govori nam apsolutno ništa o točnosti  tvrdnje koji je danas dan u tjednu, pada li kiša ili sija li sunce, koji automobil smatra najboljim ili bilo što drugo samo zato što uz to kao objašnjenje stavi da tako misli zato jer je svećenik (ili zato što ne zna plivati, glupo se oblači ili krivo češlja).

To što je svećenik ne igra apsolutno nikakvu ulogu u tome je li njegova tvrdnja točna ili nije.

Ono što je ovdje potpisanome zanimljivo je službeni odgovor Googlea da su „Googleovi timovi etičara i inženjera provjerili Lemoineove tvrdnje i zabrinutost, usporedili ih s AI principima prema kojima rade te ga izvijestili da za njegove tvrdnje nema dokaza. Jasno su mu rekli da ne postoji dokaz da je LaMDA svjesna ili razumna, a da postoje dokazi za suprotno.“.

Koji su to „dokazi za suprotno“, ako možemo znati? Naime, ako znamo da na Turingovom testu stvarni ljudi počesto prođu gore od daleko manje sofisticiranih računalnih programa nego je to LaMDA, a još se nismo univerzalno usuglasili što je to samosvijest (pa čak svi ne misle da stvarno postoji), kojom to operativnom definicijom svijesti i samosvijesti operira Google u svojim „testovima“ i koji su to testovi?

Naime, mi zapravo ne možemo dokazati ni da fizički sugovornik kojega poznajemo godinama ima ikakvu samosvijest i da nije automaton. Kakvi su testovi koji „pokazuju suprotno“ da računalni program nema samosvijest?

Iako je ovdje potpisani vrlo čvrsto u taboru onih iz mema s početka teksta koji nemaju posebno visoko mišljenje o stvarnim dosezima umjetne inteligencije danas, Googleov odgovor je toliko očekivano obranaški i korporativan, da nema nikakvog razloga da u svijetlu onoga što znamo i ne znamo o vlastitoj samosvijesti i umjetnoj inteligenciji ne posumnjamo da bi bio isti takav i da su „Googleovi timovi etičara i inženjera“ zapravo apsolutno sigurni da LaMDA JEST posve samosvjesna (štogod to značilo).

📢 5 godina jamstva

TOP!

KINGSTON

PC memorija, vanjski SSD te USB memorija prepoznate kvalitete po vrhunskim cijenama.

Od 39 kn Kupi


2-smjerni kompaktni zvučnik

FOCAL Super Bird

Zidna montaža (okomito i vertikalno), mogućnost podnog stalka, ABS kučište, 55Hz – 25kHz, 8 ohma, 15 - 150W, 90dB.

1.599 kn 1.999 kn Kupi

3-smjerni stereo zvučnici

ACOUSTIC ENERGY AE320

28 mm aluminijski visokotonac, izvrsne karakteristike disperzije zahvaljujući tehnologiji široke disperzije, 35Hz - 30kHz, 90dB, 8ohma.

12.799 kn Kupi