Tehnološka industrija, posebno industrija umjetne inteligencije, suočava se sa sve većim preispitivanjem svoje transparentnosti i praksi prikupljanja podataka i sadržaja za treniranje velikih AI sustava. U tom procesu važna je uloga onih koji se usude progovoriti o nepravilnostima koje su uočili. Njihova uloga u razotkrivanju etički spornih praksi ključna je za razvoj odgovorne tehnologije koja služi društvu.

"Više štete nego koristi društvu" - govrio je Balaji

Suchir Balaji, bivši istraživač u OpenAI-ju koji je radio na razvoju ChatGPT-a, postao je jedan od istaknutih kritičara trenutačnih praksi. U intervjuu za The New York Times izrazio je ozbiljnu zabrinutost zbog načina na koji OpenAI prikuplja i koristi podatke. Posebno je govorio o problemu korištenja zaštićenih materijala bez potrebnih dozvola te utjecaju takvih praksi na stvaratelje originalnog sadržaja.

Tijekom četverogodišnjeg rada u OpenAI-ju, Balaji je imao ključnu ulogu u prikupljanju i organizaciji internetskih podataka za obuku ChatGPT-a. Njegovo iskustvo potaknulo je preispitivanje etičkih aspekata korištenja velikih količina podataka u razvoju umjetne inteligencije. U kolovozu 2024. napustio je tvrtku, navodeći da trenutačne prakse nanose više štete nego koristi društvu.

Na svom blogu objavio je detaljan znanstveni esej pod naslovom "Kada je legalno koristiti tuđe sadržaje za treniranje umjetne inteligencije?" u kojem je neveo detaljnu analizu i kritiku uporabe sadržaja za treniranje AI. 

Brojne medijske kuće, autori i umjetnici, predvođeni New York Timesom, pokrenuli su sudske postupke protiv OpenAI-ja zbog navodnog kršenja autorskih prava pri korištenju njihovog sadržaja za uvježbavanje modela umjetne inteligencije (vidi okvir)

Nakon studija na UC Berkeleyju, četiri godine u OpenAI

Balaji je pronađen mrtav u svojem stanu u San Franciscu 26. studenog a jučer su policija San Francisca i Ured glavnog medicinskog istražitelja potvrdili da su da trenutačno nema dokaza o nasilju. 

David Serrano Sewell, direktor ureda gradskog glavnog mrtvozornika, rekao je za The Standard putem e-maila: "Utvrđeno je da se radi o samoubojstvu".

Kao Amerikanac indijskog podrijetla, Balaji je odrastao u Cupertinu u Kaliforniji i studirao računarstvo na UC Berkeleyju. Tijekom studija razvio je interes za potencijalne koristi umjetne inteligencije, posebice njezinu primjenu u rješavanju složenih problema poput liječenja bolesti i zaustavljanja starenja.

Govorio o kršenju autorskih prava

U intervjuu za NYT od 23. listopada 2024., Balaji je iznio nekoliko ključnih primjedbi na prakse OpenAI-ja. Tvrdio je da tvrtka narušava poslovanje poduzetnika čiji su podaci korišteni za obuku ChatGPT-a bez odgovarajućih odobrenja. Izjavio je da pristup OpenAI-ja nije održiv za internetski ekosustav u cjelini te da je to glavni razlog njegova odlaska iz tvrtke.

Balaji je posebno govorio o problemu kršenja autorskih prava kroz korištenje zaštićenih materijala za obuku AI modela bez dopuštenja. Smatrao je da takve prakse ne ispunjavaju uvjete "poštene uporabe". Također je upozorio da AI sustavi poput ChatGPT-a izravno konkuriraju originalnim stvarateljima sadržaja te da mogu generirati netočne ili izmišljene informacije, što negativno utječe na kvalitetu sadržaja dostupnog na internetu.

Ključna uloga zviždača

Balajijev tragičan slučaj podsjeća da treba sve učiniti kako bi se pomoglo zviždačima jer njihova uloga u razotkrivanju etički spornih praksi ključna je za razvoj odgovorne tehnologije koja služi društvu. Zaštita onih koji se usude progovoriti mora postati prioritet ako se želi izgraditi etički održiva tehnološka budućnost.