Googleove AI generirane slike gljiva izazivaju zabrinutost među gljivarima
Google je kritiziran zbog prikazivanja slika gljiva generiranih umjetnom inteligencijom, što potencijalno ugrožava sigurnost gljivara
Problem s AI generiranim slikama gljiva prvi je uočio MycoMutant, moderator Reddit zajednice r/mycology posvećene entuzijastima gljiva.
Lažna čupava gnojištarka
Pri pretraživanju vrste Coprinus comatus, poznatije kao čupava gnojištarka, velika gnojištarka ili čopasta tintnica, MycoMutant je otkrio da je prva slika u Googleovim rezultatima pretraživanja zapravo AI generirana slika koja vrlo malo nalikuje stvarnoj gljivi. Slika je potjecala s Freepika, web stranice sa stock fotografijama, gdje je jasno označena kao "AI generirana", ali pogrešno označena kao "Coprinus comatus".
Korištenje netočnih AI generiranih slika u rezultatima pretraživanja vrlo je rizično. Gljivari koji se oslanjaju na te slike za identifikaciju mogli bi zamijeniti otrovne gljive za jestive, što može dovesti do trovanja. Netočne slike istaknute u rezultatima pretraživanja mogu se pogrešno smatrati pouzdanim izvorima, potencijalno utječući na AI algoritme za identifikaciju i baze podataka.
Moguće razorne posljedice
Elan Trybuch, tajnik Njujorškog mikološkog društva, poslao je izjavu za portal 404 Media u kojoj navodi da AI generirane slike gljiva mogu biti opasne.
"Ne samo da mnogi ljudi uče vizualno, već se s brzinom kojom se informacije šire ljudi sve više oslanjaju na trenutačne povratne informacije, a ništa to ne čini bolje od referentne fotografije," napisao je Trybuch. "Problem je što mnoge od ovih fotografija izgledaju 'dovoljno slično' pravim gljivama. Iako to može imati razorne posljedice, mislim da će u većini slučajeva samo unijeti zbunjenost oko toga: Što je stvarno?"
Slični problemi i na Amazonu
Portal je zatražio komentar Googlea, a glasnogovornik je izjavio da imaju zaštitne mehanizme za pružanje visokokvalitetnog iskustva i da rade na jačanju mehanizama kontrole kvalitete. Također su spomenuli da sustavno provode poboljšanja na temelju povratnih informacija korisnika o potencijalnim problemima.
Ovaj incident ističe dva značajna problema s AI generiranim sadržajem: prezentaciju potencijalno netočnih i opasnih informacija kao činjenica te izazov za tražilice da razlikuju stvarni od AI generiranog sadržaja. Slični problemi primijećeni su s AI generiranim knjigama o branju gljiva na Amazonu, za koje je Njujorško mikološko društvo upozorilo da bi mogle imati posljedice opasne po život.
