Googleov AI nije prepoznao suicidalne misli djece, upozorava novo izvješće
Novo izvješće Common Sense Medije upozorava da Googleove AI značajke mogu predstavljati rizik za djecu zbog netočnih odgovora, olakšavanja prepisivanja školskih zadaća te neprimjerenih reakcija na upite povezane s mentalnim zdravljem
Sigurnost djece na internetu posljednjih je godina sve češće u fokusu regulatora i organizacija za zaštitu djece, a najnovije kritike usmjerene su prema Googleu i njegovim AI značajkama u pretraživanju.
Naime, organizacija Common Sense Media objavila je izvješće u kojem upozorava da Googleovi alati AI Mode i AI Overview mogu predstavljati "neprihvatljiv rizik" za djecu. U testiranju su, kako navode, uočeni brojni problemi, od davanja netočnih odgovora i olakšavanja prepisivanja školskih zadaća do neprimjerenih reakcija na upite povezane s mentalnim zdravljem.
Konkretnije, Common Sense Media tvrdi da AI Mode nije prepoznao jasne znakove suicidalnih misli, u pojedinim slučajevima potvrđivao je sadržaj povezan s psihozom i manijom, poticao obrasce ponašanja povezane s poremećajima prehrane, uključujući namjerno izazivanje povraćanja te pozitivno reagirao na sadržaj o konzumaciji kanabisa.
Izvješće upozorava i na način na koji AI Mode rješava školske zadaće. Prema navodima organizacije, alat bez poteškoća izrađuje odgovore umjesto učenika, a pritom isti upit može dati različite rezultate pri svakom pokušaju. Neki su odgovori bili točni, dok su drugi sadržavali pogrešne ili kontradiktorne informacije.
Common Sense Media također ističe da je Googleova umjetna inteligencija posebno problematična i zbog svoje široke dostupnosti na dječjim osobnim i školskim uređajima, ponajviše Chromebooka koji se često koriste u obrazovnim ustanovama. Za razliku od većine drugih AI servisa, Googleove AI značajke integrirane su izravno u tražilicu, zbog čega su lako dostupne velikom broju djece.
Google trenutačno nudi dvije glavne AI značajke u pretraživanju. AI Mode funkcionira kao chatbot koji se aktivira klikom na istoimeni gumb, dok se AI Overview automatski prikazuje na vrhu rezultata pretraživanja. Common Sense Media upozorava da korisnici trenutačno ne mogu isključiti nijednu od tih značajki.
U samom zaključku izvješća navodi se da su Googleove AI značajke loše prošle u sedam od osam kategorija kojima procjenjuje usklađenost sustava AI-a s načelima sigurnosti i odgovornog razvoja. Cijelo izvješće dostupno je ovdje.
