Sudski podnesci koje pravi AI puni lažnih citata
Američki sudovi počeli su otkrivati jednostavan način da provjere je li sudski podnesak pisao čovjek ili umjetna inteligencija – potonja izmišlja sudske presedane i presude
Prema pisanju ArsTechnice, umirovljeni američki sudac priznao je da su ga gotovo prevarili lažni citati generirani umjetnom inteligencijom koje su podnijele odvjetničke tvrtke. Zbog ovog incidenta, odvjetničke tvrtke su kažnjene i naloženo im je plaćanje 31.100 dolara. Sudac je izjavio da je u početku vjerovao da su citati stvarni te ih je "gotovo" uključio u sudski nalog. Naglasio je da ga je "korištenje umjetne inteligencije od strane tužitelja nedvojbeno dovelo u zabludu" i istaknuo potrebu za snažnim mjerama odvraćanja kako odvjetnici ne bi podlegli ovom prečacu.
Incident se dogodio u slučaju u kojem je bivša okružna tužiteljica okruga Los Angeles tužila osiguravajuću kuću. Utvrđeno je da je odvjetnik tužiteljice koristio različite UI alate za izradu "nacrta" dopunskog podneska, koji je sadržavao problematično pravno istraživanje. Taj je nacrt uključen u podnesak bez provjere citata ili drugog pregleda istraživanja. Čak i nakon što je sudac upozorio na dvije neispravnosti, revidirani podnesak i dalje je sadržavao pogreške koje je napravila umjetna inteligencija.
Sudac je kritizirao odvjetnike zbog neprijavljenog korištenja UI proizvoda, navodeći da "nijedan razumno kompetentan odvjetnik ne bi trebao prepustiti istraživanje i pisanje ovoj tehnologiji – posebno bez ikakvog pokušaja provjere točnosti tog materijala".
Kao rezultat toga, odbacio je dopunske podneske tužitelja i naložio odvjetničkim kancelarijama da plate 26.100 dolara obrani za naknadu troškova arbitražnoj i medijacijskoj tvrtki te dodatnih 5.000 dolara za pokrivanje drugih troškova obrane.
