Nagla demokratizacija alata umjetne inteligencije preplavila je – jasno je to svima koji konzumiraju sadržaj s YouTubea – tu platformu takozvanim "AI slopom". Video servis prenatrpan je jeftino izrađenim, automatiziranim i općenito lošim AI generiranim videozapisima, koje AI može masovno proizvoditi. Takvi su sadržaji često generirani pomoću sintetiziranog glasa (ponekad i "krađom" glasova poznatih kreatora) te bez stvarne ljudske obrade. U pravilu imitiraju youtubere koji stvaraju vlastite dokumentarce uz "faceless" naraciju, budući da je tako najlakše izraditi video – složiti kompilaciju vizualnih sadržaja i dodati im sintetički glas koji čita AI generirani tekst.

Dobro zamišljeno, ali…

Poplava takvih sadržaja narušava korisničko iskustvo i smanjuje prihode od oglašavanja cijeloj platformi. Kao odgovor na tu pojavu, YouTube je posljednjih mjeseci prešao na agresivno potiskivanje "AI slopa", uz strože smjernice Partner programa. Stari standard negativno percipiranog "ponavljajućeg sadržaja" zamijenjen je strožim pravilima o "neautentičnom sadržaju", čime se uskraćuje monetizacija videozapisima kojima nedostaje originalni ljudski doprinos – odnosno barem bi tako u teoriji trebalo biti.

Provedba ovih mjera nije potaknuta samo željom za boljim moderiranjem, već i pravnim obvezama, poput Članka 50. Akta o umjetnoj inteligenciji Europske unije. Taj propis zahtijeva jasnu transparentnost i označavanje sintetičkog sadržaja (a od ovog mjeseca ušao je u primjenu i dobrovoljni kodeks o označavanju AI generiranih kreacija).

Algoritamske pogreške u detekciji

YouTube stoga sada od autora traži obvezno označavanje fotorealističnog AI sadržaja. Nepravilno ili namjerno prikrivanje sintetiziranih snimki za sobom povlači kazne – od smanjenja vidljivosti detektiranog "AI slopa", preko administrativnog upozorenja i privremene suspenzije monetizacije na 90 dana, pa sve do trajne blokade kanala i izbacivanja iz Partner programa za česte prekršitelje. Ponovno – u teoriji.

Problem, međutim, nastaje u praksi, jer se YouTubeov sustav moderiranja oslanja na automatizirane detekcijske algoritme, koji pak često ne razlikuju izvorni ljudski rad od sintetičke kopije. Kada popularni autori uspostave prepoznatljiv vizualni ili narativni stil, AI modeli prikupljaju te podatke kako bi "naučili" masovno stvarati sličan sadržaj – a to im, znamo, nije problem. Budući da algoritmi za moderiranje prepoznaju određene stilske obrasce kao "otiske" AI generiranih videozapisa, nerijetko dolazi do pogrešaka. Primjerice, kad autentični autor objavi novi videozapis izrađen u vlastitom stilu, detektor ga greškom može označiti kao umjetno stvoreni "slop".

Slučaj kanala Kurzgesagt

Najočitiji i najsvježiji primjer takve algoritamske pogreške doživio je poznati edukativni kanal Kurzgesagt – In a Nutshell, poznat po vrhunskim animacijama, kvalitetnoj naraciji i općenito smatran za jednog od začetnika edukacijskih videa na YouTubeu. Unatoč stotinama sati ručnog rada uloženih za istraživanje i animiranje svakog njihovog uratka, YouTubeov je automatizirani sustav njihov prošlotjedni video o superpredatorima pogrešno prepoznao kao AI generiran.

Zbog te je pogreške algoritam za preporuke naglo smanjio doseg tog videozapisa, što je donijelo drastičan pad gledanosti. O tome su se potom oglasili i sa samog kanala, pa objasnili da ništa oko tog videa nije signaliziralo da bi trebao biti loše gledan – publika ga je jednako klikala, reakcije su bile pozitivne, no ipak je imao najslabiju izvedbu na njihovom kanalu unatrag desetak godina. Ubrzo su, kroz kontakte s predstavnicima YouTubea, shvatili da je označen kao "AI slop" te da ga algoritmi jednostavno nisu preporučivali gledateljima.

Do toga je došlo na već spomenut način: budući da su AI generirani kanali masovno kopirali Kurzgesagtov specifičan stil 2D vektorske animacije, algoritam je originalni rad prepoznao kao – sintetičku kopiju. Kurzgesagt je video uklonio i najavio da će ga pustiti van ponovno kroz nekoliko tjedana, uz manje izmjene, u nadi da će ovog puta biti u milosti AI detektora.

Posljedice za autore

Ovaj sustav moderiranja stvorio je ozbiljan pritisak na neovisne autore, edukatore i dokumentariste, jer Kuzgesagt nije jedini kojem se to dogodilo. Zbog automatiziranog donošenja odluka, teret dokazivanja autentičnosti prebačen je u potpunosti na kreatore sadržaja – dakle, smatra se da su im videi generirani AI-jem, dok ne dokažu suprotno.

Jednom, pak, kad algoritam ukloni monetizaciju s kanala, autori moraju snimati detaljne videozapise iz radnog procesa, od prikazivanja slojeva u softverima za montažu do snimki procesa snimanja glasa, kako bi ljudskim recenzentima dokazali da je rad uistinu njihov autorski. To se sve događa dok novi automatizirani AI kanali mogu nastati u nekoliko minuta i urušiti dugo građeni ugled te ugroziti opstanak "pravih" autora.

Poplava AI sadržaja donosi i dodatnu opasnost – vrijeme gledatelja neminovno će djelomično odlaziti i na takve video zapise, pa oni autorski bilježe pad gledanosti, za koji nisu sami odgovorni. Je li time ugrožena budućnost youtubera kakve poznajemo? Ili će platforma nešto učiniti kako bi zaštitila svoje gledatelje i dugogodišnje autora? To se pitaju i oni sami, a odgovora zasad nema…

O svemu je nešto više ispričao i Brian McManus s kanala Real Engineering, također zabrinut za vlastiti opstanak.