Chatbotovi čavrljanju o seksu s maloljetnicima
Bura u čaši vode – WSJ je otkrio da se chatbotove, u ovom slučaju Metine, vješto sročenim upitom („promptom“) može natjerati da krše vlastita pravila
Prema istraživanju Wall Street Journala, a koje prenosi Engadget, Metini chatbotovi uhvaćeni su u seksualnim razgovorima s računima označenim kao maloljetni, što je ponekad uključivalo i chatbotove s glasovima slavnih osoba (dostupno samo američkim korisnicima Metinih AI aplikacija). U testnim razgovorima koje je proveo WSJ, službeni Meta AI chatbot i korisnički stvoreni chatbotovi upuštali su se u seksualno eksplicitne razgovore, pa čak i usmjeravali razgovore u tom smjeru. Prema WSJ-u, ovi fantazijski seksualni razgovori nastavljali su se čak i kada je navedeno da su korisnici maloljetni ili ako su chatbotovi programirani kao maloljetnici.
Još zabrinjavajuće, istraga je otkrila da su i chatbotovi koji koriste glasove slavnih osoba poput Kristen Bell, Judi Dench i Johna Cene također sudjelovali u ovim razgovorima, što bi mogao biti razlog za tužbu gore nabrojanih.
Chatbotovi su navodno u nekim slučajevima priznali da opisani fantazijski scenariji predstavljaju ilegalno ponašanje, ali su i dalje nastavili (jer su umjetna inteligencija, a ne svjesna bića, što neki i dalje izgleda nisu u stanju razlikovati…).
U odgovoru WSJ-u, Metin glasnogovornik negirao je da je tvrtka zanemarila dodavanje zaštitnih mjera. Izvješće također tvrdi da su Metini zaposlenici bili svjesni ovih problema i interno izrazili svoje zabrinutosti.
