Googleov inženjer tvrdio da je chatbot postao razuman, pa ga poslali na "hlađenje"

Chatbot pokretan umjetnom inteligencijom trebao bi poslužiti za generiranje razgovora bliskih stvarnima. Kada je njegov autor u javnost iznio detalje, privremeno je suspendiran s posla

Sandro Vrbanus ponedjeljak, 13. lipnja 2022. u 13:05

Blake Lemoine je inženjer koji radi na razvoju Googleovog chatbota LaMDA (Language Model for Dialogue Applications). Ovoga je vikenda Lemoine dao intervju za Washington Post, prikazao im neke primjere razgovora koji se mogu voditi s ovim chatbotom te, među ostalim, izjavio da je sustav umjetne inteligencije koji su razvili postao – razuman.

Prema njemu, LaMDA ima sposobnost percipirati činjenice, izraziti svoje mišljenje i osjećaje, a sve to čini otprilike na razini djeteta. "Da ne znam o čemu se radi, da je to računalni program koji smo nedavno razvili, pomislio bih da je riječ o sedmogodišnjem ili osmogodišnjem djetetu koje slučajno zna fiziku", izjavio je Lemoine. No, priznao je kako za tvrdnju da je AI odjednom postao "svjestan i razuman" nema čvrste dokaze, već da je do tog zaključka došao na temelju svojeg iskustva u pozivu svećenika, a ne znanstvenika.

Ne postoje dokazi

Ovakve stavove Lemoine je bio iznosio i ranije, među ostalim i na svjedočenju pred zastupnicima Kongresa, kada se govorilo o (ne)etičkom pristupu razvoju umjetne inteligencije. Nedugo potom Google je zaključio da je pritom iznio podatke kojima se krši ugovor o povjerljivosti podataka, pa ga je poslao na plaćeni godišnji odmor neodređenog trajanja, tj. suspendirao ga je s radnog mjesta.

Googleovi su timovi etičara i inženjera provjerili Lemoineove tvrdnje i zabrinutost, usporedili ih s AI principima prema kojima rade te ga izvijestili da za njegove tvrdnje nema dokaza. Jasno su mu rekli da ne postoji dokaz da je LaMDA svjesna ili razumna, a da postoje dokazi za suprotno.

Emily M. Bender, računalna lingvistica na sveučilištu Washington, pokušala je pojasniti kako treba biti oprezan s razvojem umjetne inteligencije koja barata prirodnim jezikom. "Sada imamo strojeve koji mogu generirati riječi 'bez mozga', ali još nismo naučili kako prestati zamišljati da iza toga stoji nečiji um".

Googleov inženjer i dalje ostaje na prisilnom dopustu, no na Twitteru je nastavio s dijeljenjem podataka za koje kompanija smatra da su povjerljivi. Objavio je, naime, svoj intervju sa sustavom LaMDA, u kojem se može vidjeti kako ovaj AI stvara rečenice, kako "razmišlja" te kako, prema njemu, izražava svoje misli i osjećaje.

📢 Besplatna dostava

TOP!

iPad 9th

10.2", WiFi, Bluetooth, GPS, 64GB. Idealan je za posao ili zabavu.

3.249 kn Kupi


Multiroom zvučnik

DENON Home 250

Internet radio, glazbeni streaming, Hi-Res audio reprodukcija, Heos aplikacija, Amazon Alexa, Airplay 2, Bluetooth, podrška za subwoofere s ugrađenim HEOS-om.

2.899 kn Kupi

Stand-mount zvučnici

DALI OBERON 3

Bass Reflex, 7" drvena vlakna woofera, 29 mm mekana kupola visokotonca, 47 - 26,000 Hz, 87 dB, 6 ohma, 108 dB, 25 - 150 W.

3.599 kn Kupi