Tvrtka OpenAI suočena je s kaznenom istragom nakon što je njihov chatbot ChatGPT navodno savjetovao napadača uoči masovne pucnjave na Sveučilištu Florida State prošle godine, u kojoj je dvoje ljudi ubijeno, a šestero ranjeno.

Glavni državni odvjetnik Floride, James Uthmeier, potvrdio je u priopćenju za javnost da je istraga o potencijalnoj kaznenoj odgovornosti tvrtke OpenAI pokrenuta nakon pregleda šokantnih zapisa razgovora između ChatGPT-ja i računa povezanog s osumnjičenim napadačem, Phoenixom Iknerom. 20-godišnji student Sveučilišta Florida State trenutno čeka suđenje "po više točaka optužnice za ubojstvo i pokušaj ubojstva", izvijestio je Politico. Na konferenciji za novinare, Uthmeier je otkrio da zapisi pokazuju kako je ChatGPT pružio "značajne savjete" prije nego što je Ikner navodno "počinio tako gnusne zločine". Naglasio je da bi se prema zakonima Floride o pomaganju i poticanju, "da je ChatGPT osoba", i on "suočio s optužbama za ubojstvo".

Optužbe za pomaganje i poticanje

Uthmeier je novinarima rekao da je ChatGPT savjetovao osumnjičenog napadača o vrsti oružja koju bi trebao koristiti, streljivu koje bi trebao nabaviti te o tome bi li oružje bilo korisno na maloj udaljenosti. Iako bi se te činjenice vjerojatno lako mogle pronaći na internetu, Uthmeier sugerira da je uloga ChatGPT-ja bila dublja od obične pretrage na internetskom pregledniku.

Ono što posebno zabrinjava jest da je chatbot savjetovao i u koje doba dana će na kampusu biti najviše ljudi te gdje bi točno mogao pronaći veće skupine studenata. Takvi uvidi pokazuju kako umjetna inteligencija može gotovo trenutno kombinirati javne podatke na nove načine koji mogu imati štetne i dalekosežne posljedice, a koje bi tvrtke poput OpenAI-ja trebale otkrivati i ublažavati, smatraju dužnosnici Floride. Kako bi zaštitio javnost, Uthmeier je izdao sudske naloge kojima traži više informacija, uključujući širok raspon internih politika i materijala za obuku tvrtke OpenAI.

Uthmeier je naglasio kako razumije da ChatGPT nije osoba i da ne može biti optužen za pomaganje i poticanje. No, rekao je da bi OpenAI mogao biti odgovoran ako je tvrtka bila svjesna da bi se takvo "opasno ponašanje moglo dogoditi", a nije intervenirala. Zbog toga je zatražio organizacijske sheme s ključnim vodstvom. Odlučan je otkriti "tko je što znao, što dizajnirao ili tko je trebao znati" što se događa kada zlonamjerni akteri pokušavaju planirati zločine poput pucnjave na FSU koristeći ChatGPT. Ako dužnosnici otkriju da je vodstvo OpenAI-ja znalo za kriminalne aktivnosti i dalo prednost profitu ispred javne sigurnosti, "onda ljudi moraju odgovarati", rekao je Uthmeier.

OpenAI surađuje, ali odbacuje odgovornost

Glasnogovornica tvrtke OpenAI, Kate Waters, izjavila je za Ars Technicu da tvrtka nastavlja surađivati s vlastima koje istražuju masovnu pucnjavu te da su rano "identificirali ChatGPT račun za koji se vjeruje da je povezan s osumnjičenikom i proaktivno podijelili tu informaciju s policijom".

Tvrtka tvrdi da ChatGPT nije učinio ništa više od pružanja informacija koje su već dostupne na internetu i da ga se stoga ne može kriviti za pomaganje osumnjičenom napadaču. Prema njihovim riječima, za razliku od tužbi u kojima se ChatGPT optužuje za poticanje na samoubojstvo, u ovom slučaju chatbot nije poticao napadača na bilo kakve nezakonite ili štetne radnje. "U ovom slučaju, ChatGPT je pružio činjenične odgovore na pitanja s informacijama koje se mogu pronaći u široko dostupnim javnim izvorima na internetu te nije poticao niti promovirao nezakonite ili štetne aktivnosti", rekla je Waters.

Unatoč tome, Uthmeier je na konferenciji za novinare izjavio da se OpenAI obvezao poduzeti dodatne korake kako bi se ograničio potencijal ChatGPT-ja za savjetovanje u planiranju masovnih pucnjava. "Ne možemo imati AI botove koji savjetuju ljude kako da ubijaju druge", zaključio je.

Ishod ove istrage na Floridi mogao bi postaviti važan presedan za cijelu industriju umjetne inteligencije. Otvara se ključno pitanje mogu li tehnološke tvrtke biti kazneno odgovorne za ono što njihovi AI modeli generiraju, što će zasigurno potaknuti daljnje rasprave o potrebi za strožom regulacijom i etičkim smjernicama u razvoju AI tehnologije.