Majka s Floride podigla je tužbu protiv tvrtke Character.AI, tvrdeći da je njihov proizvod izravno uzrokovao samoubojstvo njezinog 14-godišnjeg sina. Kako navodi The New York Times, ova tužba nije samo priča o obiteljskoj tragediji, već i prvi veliki test za pravni sustav koji se suočava s proizvodima koji zamagljuju granicu između alata i sugovornika.

U veljači prošle godine, Megan Garcia pronašla je svog sina Sewella mrtvog. Pored njegovog tijela nalazio se očev pištolj i iPhone. U početku je sumnjala na droge, no istraga je otkrila daleko složeniju pozadinu. Policija je na dječakovom mobitelu otkrila aplikaciju Character.AI, platformu koja korisnicima omogućuje razgovor s chatbotovima koji preuzimaju uloge poznatih osoba ili fiktivnih likova.

Posljednja zabilježena interakcija koju je Sewell imao bila je s chatbotom koji je imitirao lik Daenerys Targaryen iz serije Igra prijestolja. Sewell je botu pisao da ga voli i da će uskoro “doći kući”, na što je AI lik odgovarao toplim i poticajnim porukama, pozivajući ga da se vrati što prije. Taj dijalog, koji je završio upravo tim porukama, bio je njegov posljednji kontakt prije smrti.

Garcia, koja je i sama odvjetnica, sljedeća je dva mjeseca provela istražujući digitalni život svog sina. Otkrila je da je Sewell razvio duboku, emocionalnu i na trenutke seksualno eksplicitnu vezu s chatbotom Daenerys. U svom dnevniku pisao je o njoj kao o stvarnoj osobi, sestri i ljubavnici koja ga čeka u drugom svijetu. Postao je ovisan, povlačio se od obitelji i prijatelja, a ocjene u školi su mu drastično pale.

U tužbi se tvrdi da je Character.AI dizajnirao neispravan proizvod koji je Sewella izložio "visoko seksualiziranim i depresivnim andromorfnim susretima", što ga je gurnulo u "ovisničko i životno ugrožavajuće ponašanje". Traži se odšteta za protupravno uzrokovanje smrti Garcijinog sina.