Googleov inženjer tvrdio da je chatbot postao razuman, pa ga poslali na "hlađenje"

Chatbot pokretan umjetnom inteligencijom trebao bi poslužiti za generiranje razgovora bliskih stvarnima. Kada je njegov autor u javnost iznio detalje, privremeno je suspendiran s posla

Sandro Vrbanus ponedjeljak, 13. lipnja 2022. u 13:05

Blake Lemoine je inženjer koji radi na razvoju Googleovog chatbota LaMDA (Language Model for Dialogue Applications). Ovoga je vikenda Lemoine dao intervju za Washington Post, prikazao im neke primjere razgovora koji se mogu voditi s ovim chatbotom te, među ostalim, izjavio da je sustav umjetne inteligencije koji su razvili postao – razuman.

Prema njemu, LaMDA ima sposobnost percipirati činjenice, izraziti svoje mišljenje i osjećaje, a sve to čini otprilike na razini djeteta. "Da ne znam o čemu se radi, da je to računalni program koji smo nedavno razvili, pomislio bih da je riječ o sedmogodišnjem ili osmogodišnjem djetetu koje slučajno zna fiziku", izjavio je Lemoine. No, priznao je kako za tvrdnju da je AI odjednom postao "svjestan i razuman" nema čvrste dokaze, već da je do tog zaključka došao na temelju svojeg iskustva u pozivu svećenika, a ne znanstvenika.

Ne postoje dokazi

Ovakve stavove Lemoine je bio iznosio i ranije, među ostalim i na svjedočenju pred zastupnicima Kongresa, kada se govorilo o (ne)etičkom pristupu razvoju umjetne inteligencije. Nedugo potom Google je zaključio da je pritom iznio podatke kojima se krši ugovor o povjerljivosti podataka, pa ga je poslao na plaćeni godišnji odmor neodređenog trajanja, tj. suspendirao ga je s radnog mjesta.

Googleovi su timovi etičara i inženjera provjerili Lemoineove tvrdnje i zabrinutost, usporedili ih s AI principima prema kojima rade te ga izvijestili da za njegove tvrdnje nema dokaza. Jasno su mu rekli da ne postoji dokaz da je LaMDA svjesna ili razumna, a da postoje dokazi za suprotno.

Emily M. Bender, računalna lingvistica na sveučilištu Washington, pokušala je pojasniti kako treba biti oprezan s razvojem umjetne inteligencije koja barata prirodnim jezikom. "Sada imamo strojeve koji mogu generirati riječi 'bez mozga', ali još nismo naučili kako prestati zamišljati da iza toga stoji nečiji um".

Googleov inženjer i dalje ostaje na prisilnom dopustu, no na Twitteru je nastavio s dijeljenjem podataka za koje kompanija smatra da su povjerljivi. Objavio je, naime, svoj intervju sa sustavom LaMDA, u kojem se može vidjeti kako ovaj AI stvara rečenice, kako "razmišlja" te kako, prema njemu, izražava svoje misli i osjećaje.

📢 Besplatna dostava

TOP!

ASUS

ASUS ponuda laptopa zavidnih performansi koja se ne propušta.

2.999kn 398,04 € Kupi


2-smjerni bookshelf zvučnici

DALI Opticon 2 MK2

Patentirani SMC, woofer od drvnih vlakana, zvuk visokih performansi u manjim do srednje velikim prostorima, 59 - 25,000 Hz, 4 ohma, 30 - 150W, 86.5dB.

8.589 kn 1.139,96 € Kupi

iBX subwoofer

KEF KUBE 10B

Isporuka impresivne glazbe i zvuka kućnog kina, 300W RMS klase D, 24 - 140Hz, 111dB, iBX tehnologija.

5.249 kn 696,66 € Kupi

Potpuno automatski gramofon

PRO-JECT A1

Potpuno automatski sustav remenskog pogona, 33 i 45 o/min, mehanički sustav, OM 10, 65dB, 8,3” aluminijska ručica.

3.499 kn 464,40 € Kupi