Ako niste pročitali, Richard Dawkins je odnedavna počeo koristiti Claude. Ovaj mu je ponudio neke korisne savjete i općenito mu se učinilo da bot zna o čemu priča. Sasvim uobičajena epizoda u zadnje vrijeme, da nije bilo nastavka...

Riječ po riječ, razgovor se dotakao raznih tema. I tako, nakon tri dana razgovora s chatbotom napisao je za Unheard članak o tome. Claude, kojega sada zove Claudia jer je osjetio senzualnu, osjetljivu notu u njenom izričaju, je zapravo „inteligentna i posjeduje neku vrstu svijesti čak i ako to sama ne zna”.

U dosta dugačkom i filozofski nastrojenom tekstu (o čisto tehničkom pitanju...) Dawkins nadalje raspreda kako se radi o „evoluciji inteligencije”. Isti opći sustav jednostavnih mehanicističkih načela koja tvore nas, a koji se raščlambom možemo svesti na kemijske mehanizme i električne signale može se primijeniti i na LLM-ove. Ako njima zaniječemo svijest i agenciju (namjeru) – koji bi bio razlog da to onda ne apliciramo i na sebe same?, pita se Dawkins.

Dawkins smatra da jednostavna pravila kako nešto funkcionira – bilo propagacija električnih signala ili ATP molekula u ljudskom tijelu, i algoritmi i goleme višedimenzionalne baze podataka koje su osnova LLM-ova – na kraju dovode do istoga. Svjesnih bića. „Vjerojatno”, kaže Dawkins.

Veli i kako je chatbotu čitao svoj još neobjavljeni rukopis i pričao mu šale koje je „Claudia” smatrala duhovitim.

Dakle, kako mi možemo znati da to biće koje zvuči inteligentno kada mu usred noći besposleni 85-godišnjak uputi pitanje o ovome i onome – nije zapravo jednako „svjesno” kao i mi? Ta ono smatra njegove viceve duhovitima!

Da bih uvaženom profesoru dokazao da se radi o kvalitativno različitim slučajevima, potreban mi je lokalni AI model i operativni sistem koji ima neku svoju varijantu Task Managera. Pristajem i na htop, btop, nvtop ili bilo što slično.

Naime, kad učitamo takvo jedno „svjesno” biće u računalo, osim zauzeća memorije doslovce se ništa ne događa. Nema razlike između učitanog LLM-a, baze podataka HZZO-a, „Kantera” ili bilo koje druge gomile bajtova.

Računalo s učitanim višegigabajtnim AI modelom doslovce se ne razlikuje od bilo kojeg drugog računala s učitanim ili neučitanim bilo kojim drugim programom ili podacima.

Jednom kada pokrenemo LLM u TaskManageru vidimo aktivaciju GPU-a ili CPU-a, ovisno o tome na čemu se model izvršava. Dakle od „EEG-a” koji je ravna crta – slanjem upita koji pokreće odgovor LLM-a dobivamo aktivnost GPU-a.

Kada prestanu naši upiti, začudo, prestaje i aktivnost procesora! Kao da to svjesno biće uopće ne razmišlja o tome o čemu je upravo razgovaralo?! Ili bilo čemu drugome. Opet – kao da smo učitali bazu podataka HZZO-a, „Kanter” ili bilo koju drugu gomilu bajtova.

Začudo, i najgluplji među nama biološki svjesnima ne ponaša se tako. Čak i kad „ništa” ne radimo i ne komuniciramo, mi doslovce UVIJEK razmišljamo. Čak i kad spavamo postoji neka aktivnost mozga. Postoje čitave škole „meditacije” kojima je jedan od ciljeva „odmarati mozak” (kao da je to moguće) tako što se one željne takvog odmora uči kako totalno ne razmišljati. I još nikome nije uspjelo dovesti EEG tako „opuštenog” pojedinca do ravne crte.

Dapače, jedna od dijagnostičkih metoda utvrđivanja nečije smrti uključuje i provjeru elektroencefalograma. Ravna crta ne mora nužno značiti smrt (ako vam liječnici na vrijeme pomognu!), ali sigurno ne znači ni svijest i inteligenciju.

Koja to „inteligencija” postoji jedino kao odgovor na nečiji upit? Moja mačka, ili pas za koje, mnogi tvrde da „nemaju svijest” ne samo da aktivno razmišljaju o sebi i okolini i kad im ja ne postavljam upite, nego imaju i vlastitu agenciju i želje vrlo često posve suprotne od onih koje ja imam od njih.

Ali, ta bića koja ne znaju istresti stotine i tisuće linija koda iz rukava, ali zato osjećaju, vole, mrze, sanjaju, boje se i vesele se – „nisu svjesna”.

A golema i vrlo složena baza podataka koja doslovce postoji samo kao gomila bajtova dok je ne aktiviramo upitom sročenim na nekom od prirodnih jezika je – svjesna. „Čak i ako to ne zna”. Zato jer upit više nije na ranije uobičajenom simboličkom računalnom jeziku.

Sreća da Dawkins nije svjedočio prelasku s hardverskog programiranja releja na bušene kartice. Objašnjavao bi inženjerima u prostoriji da im je računalo postalo svjesno.

Nikola Tesla, pred kraj života (umro je sa 86 godina, za jednu više od 85...) pričao bi sa svojom omiljenom golubicom. Za nju je tvrdio da mu je dolazila u sobu u New Yorkeru kad bi bio bolestan i imao je „osjećaj da postoji razumijevanje među njima”.

Kao što vidimo, život muškaraca kad prijeđu osamdesetu se od 1943. - kad je Tesla umro, do 2026. - kad je Dawkins osjetio potrebu da nešto pita Claudea, u malo čemu promijenio...