Gradski odvjetnik San Francisca, David Chiu, pokrenuo je presedan tužbom protiv 16 web-stranica optuženih za stvaranje i distribuciju eksplicitnih slika generiranih umjetnom inteligencijom bez pristanka.

Tužba cilja platforme koje korisnicima omogućuju učitavanje odjevenih fotografija osoba, koje se potom transformiraju u realistične gole slike pomoću umjetne inteligencije. Podnesena na Višem sudu San Francisca, tužba adresira kršenja državnih i saveznih zakona o deepfake pornografiji, osvetničkoj pornografiji i dječjoj pornografiji te navodi povrede kalifornijskog Zakona o nepoštenom tržišnom natjecanju.

Tvrtke iz Estonije

Tužene web-stranice navodno su zabilježile preko 200 milijuna posjeta u prvoj polovici 2024. godine. Nude usluge koje iskorištavaju i odrasle i maloljetnike, pri čemu neke stranice izričito dopuštaju kreiranje pornografskih slika djece. Tužba nastoji ugasiti ove stranice i nametnuti građanske kazne njihovim operaterima.

Tužba javno ne navodi imena specifičnih web-stranica uključenih u slučaj, budući da su njihovi URL-ovi redigirani u pravnoj pritužbi kako bi se izbjeglo privlačenje prometa na te stranice. Međutim, identificira neke od tuženih, uključujući estonskog stanovnika Augustina Gribineca i tvrtke poput Sol Ecom, Inc., Briver LLC, Itai Tech Ltd., Defirex OÜ i Itai OÜ.

Problem u školama

Chiuova pravna akcija ne bi trebala biti iznenađenje jer raste korištenje AI-generiranih deepfake slika za uznemiravanje i iskorištavanje pojedinaca, posebno žena i djevojaka. Problem je postao izražen u školama, gdje učenici koriste ovu tehnologiju za stvaranje neprimjerenih slika svojih kolega. Slavne osobe, uključujući Taylor Swift, također su postale žrtve takve digitalne manipulacije.

Tužba se smatra potencijalnim presedanom u borbi protiv AI-generirane pornografije. Međutim, suočava se s problemima, posebno u identificiranju i procesuiranju operatora ovih web-stranica, od kojih su mnogi smješteni izvan Sjedinjenih Država. Chiu je ipak odlučan koristiti istražne alate i ovlasti za izdavanje sudskih naloga kako bi pozvao ove entitete na odgovornost.