Googleov AI Overview tvrdi da se u Indiji srušio - Airbus
Još jedan primjer „halucinacije“, odnosno AI lupetanja je Googleov AI Overview koji je nakon pažljivog proučavanja izvora zaključio da je u nesreći u Indiji strada Airbus…
Googleov alat AI Overviews, koji korisnicima nudi „sažetke“ pretraživanja, a o kojemu smo netom pisali kako je štetan i po drugim osnovama, potrudio se ponovo naći predmetom novinskih tekstova, ovoga puta u kontekstu zrakoplovne nesreće Air Indije.
Iako Google navodi da AI odgovori "mogu sadržavati pogreške", učestalost i ozbiljnost ovih propusta dovode u pitanje adekvatnost takvih upozorenja.
U konkretnom slučaju, AI Overviews je netočno naveo da je nedavna nesreća zrakoplova Air India Flight 171 uključivala Airbus A330, dok je stvarni zrakoplov bio Boeing 787 – greška (ili „greška“?) koju niti jedan ljudski pisač sažetaka ne bi napravio.
Ova dezinformacija širila se unatoč tome što su putnici danas osjetljiviji na modele zrakoplova zbog niza nesreća koje su uključivale Boeingove 737 modele prije nekoliko godina.
Problem leži u nedeterminističkoj prirodi generativnog neuronskog modela, što znači da se izlaz razlikuje pri svakom upitu, čak i za identične ulaze. Pretpostavlja se da je pogreška nastala zbog toga što mnogi članci o nesreći Air India spominju Airbus kao glavnog konkurenta Boeingu, a neuronski model, sumirajući te rezultate i tražeći riječi najbliže statističke distribucije traženom pojmu, nije uspio „razlučiti istinu“, odnosno tko je pao, a tko je konkurent.
Google je reagirao uklanjanjem spornog odgovora iz AI Overviewsa, navodeći da "kontinuirano unaprjeđuju svoje sustave i da je točnost AI Overviewsa usporediva s drugim značajkama pretraživanja poput istaknutih isječaka". Copium.
Incident pokazuje način rada LLM-ova koji su goleme tablice vaganih statistika bez obzira koliko milijardi „tokena“ su obradili, odnosno koliko su ljudskih tekstova s Interneta „posrkali“.
