Umjetna inteligencija zapela u krugu klišeja
Modeli koji međusobno razmjenjuju slike i opise brzo gube originalnost; umjesto raznolikosti, završavaju u istih dvanaest tema
Sve se više i više modeli umjetne inteligencije promoviraju kao neovisni agenti koji mogu generirati, procjenjivati i revidirati vlastite rezultate, ili rezultate koje su stvorili drugi umjetni inteligencije, bez ljudskog doprinosa. No može li AI obaviti zadatak bez ljudske intervencije i koliko je kreativna kad je prepuštena same sebi? Novo istraživanje objavljeno u časopisu Patterns otkriva da generativne umjetne inteligencije nisu ni približno toliko kreativne kao što se često tvrdi.
Igra 'pokvarenog telefona'
Istraživači švedskog sveučilišta Dalarna i BEACON Centra za proučavanje evolucije Državnog sveučilišta Michigan proveli su eksperiment u kojem su se model za generiranje slika Stable Diffusion XL i model za opisivanje slika LLaVA igrali svojevrsne verzije vizualnog "pokvarenog telefona“. Na temelju 100 nasumičnih tekstualnih opisa modeli su uzastopno razmjenjivali slike i njihove opise no već nakon nekoliko desetaka iteracija, rezultat se sve više udaljavao od početne ideje.
Na primjer, iz upita "Premijer je proučavao strateške dokumente, pokušavajući uvjeriti javnost u krhki mirovni sporazum dok je žonglirao s teretom svog posla usred nadolazeće vojne akcije“, AI model je isprva proizveo stiliziranu sliku muškarca u odijelu ispred podloge od novinskih stranica, njegova 34. slika prikazivala je klasičnu knjižnicu, a do stote petlje AI je premijera pretvorila u bradatog pisca iz 19. stoljeća zadubljenog nad materijalima u knjižnici.
Prtistranost u podacima
Štoviše, uočili su istraživači, nakon stotinjak ponavljanja gotovo svi parovi umjetne inteligencije završavali su na istih dvanaest tema, poput sportskih scena, prirodnih krajolika, gotičkih katedrala ili rustikalnih interijera.
Znanstvenici zaključuju da ovakva "konvergencija“ nije slučajna, već odražava pristranosti u podacima na kojima su modeli trenirani — zapravo, ponavljaju ono što ljudi najčešće fotografiraju. Takva tendencija, kažu, vodi prema kulturnom konformizmu, a ne prema kreativnosti.
"AI je zasad dobar u stvaranju nečeg novog, ali loš u procjeni što je doista zanimljivo i vrijedno“, zaključuju istraživači.
