AI crtići s voćem i povrćem na TikToku šire nasilje među mlađom publikom
Novo istraživanje ukazuje na širenje iznimno nasilnog AI sadržaja s antropomorfnim voćem i povrćem koji zaobilazi moderiranje te normalizira ekstremističku estetiku, a to utječe na mozgove mladih
Stručnjaci mreže Global Network on Extremism and Technology (GNET) upozoravaju na novi zabrinjavajući trend na društvenim mrežama, u kojem se generativna umjetna inteligencija koristi za izradu iznimno nasilnih videozapisa namijenjenih mlađoj publici. Riječ je o sadržaju u kojem likovi voća i povrća s ljudskim osobinama prolaze kroz ekstremne oblike mučenja, kasapljenja i hiperrealističnog nasilja, što predstavlja evoluciju digitalnog fenomena, takozvanog "brainrota".
"Brainrot" nove razine
Digitalni sadržaji koji su u početku djelovali apsurdno ili bezazleno, poput melodramatičnih priča o prevarama i sukobima među animiranim likovima, postupno su preoblikovani u vizualno brutalan sadržaj. Korištenjem pristupačnih alata za generiranje videa korisnici danas stvaraju materijale koji često kopiraju estetiku i metode djelovanja kriminalnih kartela, ekstremno desnih skupina te organizacija iz okvira religijskog fundamentalizma.
Jedan od ključnih razloga širenja ovih videozapisa na platformama poput TikToka jest činjenica da šarene animacije voća i povrća na prvi pogled izgledaju bezazleno. To kreatorima omogućuje uspješno zaobilaženje strogih algoritama za moderiranje sadržaja koji bi inače blokirali snimke stvarnog nasilja.
Zaobilaženje pravila
Istraživanje navodi konkretne primjere u kojima animirani likovi, poput mrkve koja pili ili čekićem napada krumpir, izravno simuliraju metode obračuna kakve koriste narkokarteli. Pojedini snimci uvelike podsjećaju i na službene propagandne videozapise Islamske države, koristeći sličnu vizualnu dramaturgiju i strukturu prikaza eksplozija.
Autori analize ističu da stalna izloženost takvom sadržaju postupno desenzibilizira mlađu publiku na brutalnost i nasilje. Preoblikovanjem poznatih i u pravilu slabo rizičnih motiva u aktere šokantnih prizora, kod mladih se korisnika potiče fascinacija "nasiljem radi samog nasilja". S obzirom na to da su scenariji ovih videozapisa jednostavni, kratki i iznimno repetitivni, lako postaju viralni i dolaze do maloljetnika koji ih konzumiraju bez prethodnog upozorenja. Nalazi istraživanja stoga naglašavaju potrebu za redefiniranjem sustava prepoznavanja štetnog sadržaja na društvenim mrežama.
