Ako ste možda propustili priču o Kraftonu i Subnautici (koju, na žalost, nismo posebno detaljno pratili na našim stranicama), evo kratke rekapitulacije.

Kim Chang-han (ili Changhan Kim – ime mu se spominje u obje transkripcije) je CEO Kraftona, kojeg igrači vjerojatno znaju kao tvrtku iza planetarno popularnog PUBG-a. Međutim, to nije jedini hit koji se povezuje s Kraftonom – tvrtka je 2021. kupila Unknown Worlds koji su pak razvili planetarno popularni hit – Subnauticu.

U svom pregovaračkom geniju, Kim je osnivačima Unknown Worldsa umjesto trenutne isplate poveće svote obećao 250 milijuna dolara bonusa ako tvrtka dosegne neku „magičnu cifru“ (nije javno objavljena) u prihodima nakon prodaje tvrtke.

Što se Kimu činilo kao dobra ideja 2021., u 2025. kada se vidjelo da će dogovoreni prihodi biti premašeni, odjednom se činilo kao ne samo izuzetno loša nego i izrazito nepravedna ideja. Istina je da je Unknown Worlds prihodio daleko više nego se on ikada nadao da će zaraditi, ali 250 milijuna je svejedno previše novaca da ga isplati onima koji su ga zaradili.

Stoga je u neko gluho doba noći odlučio pitati ChatGPT za pomoć, kako sažeto opisuje ovaj članak na Guardianu. Bot mu je u prvoj iteraciji iskreno rekao da se ideja da bi mogao poništiti ugovor čini vrlo nevjerojatnom.

Ipak, vještim „prompt engineeringom“, odnosno masiranjem upita botu na način da dobije odgovor koji nam paše, ChatGPT je smislio „Project X“, detaljan plan kako izbjeći plaćanje bilo čega osnivačima Unknwon Worldsa.

Kako je Kim strašno lukav (odnosno, sebe tako doživljava), izbrisao je razgovor s ChatGPT-om iz svog preglednika misleći da je time izbrisao svaki trag svoje lukavosti. Ni slutio nije nesretni Kim da sve zapisano na Internetu ostaje na Internetu. Dok netko to ne odluči  ponovo iskopati s Interneta, a vlasti mu daju za pravo.

Na koncu tl;dr – iako je Kim ispočetka uspio otpustiti osnivače Unknown Worldsa prije nego bi im morao isplatiti bonuse, sudovanje je pokazalo da za to nije imao nikakvog opravdanja. Stoga ne samo da ih je morao vratiti na posao, nego im i isplatiti dogovoreni bonus. Kao dokaz poslužio je i „izbrisani“ (u Kimovoj mašti) zapis diskusije Kima i chatbota.

Čemu nas ova epizoda uči, osim ponovljenoj potvrdi istraživanja da su neka zanimanja pravi mamac za sociopate?

Prvo je da nema te idiotske ideje koju chatbot neće smatrati „izvrsnom“ ili barem „dovoljno dobrom“, ako ga dovoljno masiramo. Potrebno je samo biti uporan i odgovarajuće složiti upit ili kako se to pompozno zove – „prompt engineering“ . Još jedna „ten dollar word for two dollar idea“, kako to kažu Amerikanci.

Druga pouka je da su jezični modeli točno ono što im ime kaže – jezični modeli. Da, spadaju u kategoriju koja se u informatici zove umjetna inteligencija, ali je dijele s gomilom drugih računalnih programa – od traženja najkraćeg puta, preko šaha do „Kula Hanoja“. Ako smatrate da vaš šahovski program s hrpom ELO bodova većom od bilo kojeg šahovskog velemajstora nije posve svjesni genij samo zato jer može izračunati milijarde polupoteza u budućnost, ne biste trebali smatrati ni da je to vaš chatbot. Dok šahovski program melje tisuće polupoteza, vaš chatbot melje tisuće riječi (tokena) i vrlo je vješt s jezikom jer je – jezični model. Dakle, radi ono za što je napravljen da radi – proizvodi tekst koji kod nas može izazvati razne emocionalne i intelektualne reakcije, ali to je sve na našoj strani. S njegove strane – chatbotove – emocionalni i intelektualni naboj tako iskrcanog teksta jednak je emocionalnom i intelektualnom naboju koji šahovski program osjeća prema svojim izračunatim potezima. Ne postoji. Sve je to „u oko promatrača“, odnosno nas, čovjeka koji koristi taj chatbot.

Treće, jezični modeli su najvećim dijelom trenirani na internetskim raspravama. Kada krenete u diskusiju s njima, raspravljate barem dijelom s internetskim komentarima skrivenim iza tenzora i višedimenzionalnih probabilističkih polja, tako da na prvu ne zvuče tako. S tim da su internetske rasprave uglavnom suprotstavljene, a chatbot je treniran tako da mu je „nagrada“ naše povlađivanje. Ukoliko isprva ne uspije blago vam prenijeti da lupetate (što je također odgovor baziran na milijardama rečenica popabirčenih s Interneta, nikakvo nadljudsko „zaključivanje“), ako ste uporni – na koncu će se složiti s vama.

Četvrto, ljudi su idioti, a najbolji detektor toga su drugi ljudi, također idioti, ali obično u drugim područjima života i znanja, tako da mogu najbolje detektirati naš specifični idiotizam. Botovi to ne mogu.

Posljedica ovoga su posve idiotske ideje koje se prodaju kao genijalan način korištenja chatbota, kao, recimo, ovaj članak ovdje. Još jedno masiranje upita, pardon - prompt engineering - koji se svodi na to da svaki upit završimo s „tell it like it is with brutal honesty.”.

Ono – brutala, braco. Nemoj me štedit. I na kraju u tom istom članku za „ideju“ „Leadership coaching for dogs“ Anthropicov Claude da ukupnu ocjenu - 3/10.

Govorimo o ideji koja je posve besmislena – u rangu onih poslovnih ideja Kramera i Georgea Constanze iz Seinfelda koje su toliko apsurdne da scenaristi oko tog besmisla grade zaplet čitave jedne epizode.

U slučaju chatbota, pak: „Claude treated it with deadly seriousness“. Naravno, zašto ne. I na kraju ne kaže – „ti si idiot, otiđi očistit šupu da se imaš gdje objesit“, što bi na takvu ideju možda rekla žena kojoj je davno obećao očistit šupu, ali za druge namjene, već da ocjenu 3/10.

Ono – ideja nije baš genijalna, ali „ima tu nečega“:  

-  „… the dog training market is growing at a nearly 10 percent rate, with the biggest driver being “the trend of treating dogs like family members, even like employees with performance goals.” 

Taj isti Claude je ovdje potpisanome svojedobno dao savjet kako riješiti neki posve računalni problem koji je glasio da prvo izbrišem datoteku iz jedne mape, a onda je (nepostojeću) iskopiram u drugu mapu. "Good catch! 😊" rekao mi je s obaveznim smajlekom na kraju na moj "dafuq?". 

Usprkos svemu ovome, doslovce gomile ljudi razgovaraju sa svojim chatbotima i prenose svoje dubokoumne rasprave po Internetu.

Jedan domaći popularizator znanosti na svom Facebooku prenosi plahte i plahte svojih razgovora s chatbotom koji se na koncu - uvijek složi s njime. Eto, pa ako to nije dokaz da je u pravu, ne znam što bi trebao biti dokaz…

Uostalom, AI smatra da je u pravu.