Apple pod povećalom zbog greške koja povezuje riječ "rasist" s "Trump"

Appleova greška povezivanja riječi "rasist" s "Trump" izazvala dvojbe: slučajni propust u sustavu prepoznavanja govora ili, kako sugerira bivši član tima za Siri, "ozbiljna šala" iznutra...

Bug.hr srijeda, 26. veljače 2025. u 06:25

Apple se jučer našao u središtu kontroverze zbog neobične greške u svojoj iPhone funkciji pretvaranja govora u tekst. Korisnici su prijavili da kada izgovore riječ "rasist", sustav nakratko prikazuje "Trump" prije nego što se ispravi.

Problem s riječima koje sadrže suglasnik 'r'

Problem je privukao široku pozornost nakon viralnog TikTok videa koji je prikazao grešku, potaknuvši brojne korisnike da ponove eksperiment. Apple je priznao problem, pripisujući ga mani u modelu prepoznavanja govora koji pokreće funkciju diktiranja. Glasnogovornik tvrtke izjavio je: "Svjesni smo problema s modelom prepoznavanja govora koji pokreće Diktiranje i implementiramo popravak što je prije moguće."

Prema Appleu, greška nije ograničena samo na riječ "rasist", već utječe i na druge riječi koje sadrže suglasnik 'r'. Tvrtka je objasnila da njihovi modeli prepoznavanja govora mogu privremeno prikazati riječi s fonetskim preklapanjem prije nego što se odluče za točnu riječ. Međutim, dosljedno pojavljivanje riječi "Trump" umjesto "rasist" izazvalo je sumnje i dovelo do spekulacija o mogućim pristranostima u AI sustavu.

Sumnje u podvalu

John Burkey, bivši član Appleova tima za Siri, sugerirao je za The New York Times da greška "miriše na ozbiljnu šalu" koju je netko unutar tvrtke mogao namjerno izvesti. Ova izjava potvrđuje zabrinutost da ljudska pristranost utječe na AI sustave, čak i unutar velikih tehnoloških korporacija s višestrukim kontrolama u procesu.

Apple nije jedini

Godine 2018. Amazon je kritiziran kada je njegov sustav za prepoznavanje lica Rekognition netočno povezao 28 članova Kongresa s kriminalističkim fotografijama, s nerazmjerno velikim brojem lažnih podudaranja koja su pogađala osobe tamnije boje kože. Slično tome, Google se borio s pristranostima u svojim algoritmima za prepoznavanje slika, koji su pogrešno identificirali osobe tamnije boje kože i perpetuirali štetne stereotipe.

Incident u nezgodno vrijeme 

Vrijeme ovog incidenta posebno je osjetljivo jer dolazi samo dan nakon što je Apple najavio planove za ulaganje više od 500 milijardi dolara u Sjedinjene Države tijekom sljedeće četiri godine a sve je dogovorio s Trumpom.