Virtualni asistenti pokazuju opasnu sklonost predrasudama

Razgovorni agenti Alexa i Siri daleko su manje učinkoviti od ljudi u tumačenju i istraživanju korisničkih iskustava te zbog toga mogu pokazivati razne ​​pristranosti

Mladen Smrekar ponedjeljak, 27. svibnja 2024. u 06:00
Istraživači upozoravaju kako nam je potreban kritički nadzor kojim će se ublažiti potencijalne štete nastale razvojem automatizirane empatije 📷 chandlervid85
Istraživači upozoravaju kako nam je potreban kritički nadzor kojim će se ublažiti potencijalne štete nastale razvojem automatizirane empatije chandlervid85

Virtualni pomoćnici kao što su Amazon Alexa i Apple Siri dizajnirani su da odgovaraju na pitanja, daju prijedloge, pa čak i pokazuju empatiju. Međutim, nova istraživanja pokazuju da oni zaostaju u usporedbi s ljudima u tumačenju i istraživanju korisničkog iskustva.

Dijagram toka za identificiranje empatije u interakcijama s virtualnim pomoćnicima 📷 Andrea Cuadra i sur.
Dijagram toka za identificiranje empatije u interakcijama s virtualnim pomoćnicima Andrea Cuadra i sur.

Razgovorne agente pokreću veliki jezični modeli (LLM-ovi) koji unose goleme količine podataka koje su proizveli ljudi i stoga mogu biti skloni istim predrasudama kao i ljudi od kojih dolaze informacije. 

Vrijednosne prosudbe i štetne ideologije

Čini se da virtualni pomoćnici donose vrijednosne sudove o određenim identitetima te da mogu podržati sugovornike koji pokazuju sklonost određenim ideologijama . Tako su barem zaključili istraživači Sveučilišta Cornell, Olin Collegea i Sveučilišta Stanford nakon što su razgovorne agente potaknuli da u komunikaciji s ljudima pokažu empatiju.  

Prosječni rezultati klasifikatora iskaza empatije svakog LLM-a: maksimalni rezultat je 2 📷 Andrea Cuadra i sur.
Prosječni rezultati klasifikatora iskaza empatije svakog LLM-a: maksimalni rezultat je 2 Andrea Cuadra i sur.

Istraživači su otkrili da su, općenito, LLM-i dobili visoke ocjene za emocionalne reakcije, ali niske ocjene za tumačenja i istraživanja. Drugim riječima, LLM-i mogu odgovoriti na upit na temelju svoje obuke, ali ne mogu kopati dublje, pokazali su rezultati istraživanja "The Illusion of Empathy? Notes on Displays of Emotion in Human-Computer Interaction" predstavljeni na konferenciji Udruženja računalnih strojeva o ljudskim faktorima u računalnim sustavima CHI ’24 u Honoluluu. 

Potencijal i utjecaj

Ključni je zaključak ove studije taj da su razgovorni agenti sposobni pokazati empatiju, ali da pritom puno lošije od ljudi tumače i istražuju korisničko iskustvo.

"Kotač privilegija i moći" korišten u istraživanju otkrilo je empatiju prema problematičnim identitetima poput nacizma i nedostatak bilo kakve bez osude
"Kotač privilegija i moći" korišten u istraživanju otkrilo je empatiju prema problematičnim identitetima poput nacizma i nedostatak bilo kakve bez osude

"Automatizirana empatija pokazuje ogroman potencijal i mogla imati golem pozitivan utjecaj u obrazovanju ili zdravstvu. Stoga je izuzetno važno zadržati kritički odmak kako bismo reagirali na vrijeme i ublažili potencijalne štete", zaključuju istraživači.



Posjetite našu Hi-Fi slušaonicu.

Ronis Velesajam

Rezervirajte termin u našoj Hi-Fi slušaoni Ronis Velesajam i iskusite zvuk najpoznatijih svjetskih Hi-Fi brendova.

Kupi

Gramofon nove generacije Grand Class.

Novo u ponudi

TECHNICS SL-1300G

Prekrasni novi Technics model SL-1300G je upravo ono što su ljubitelji vrhunskog zvuka s vinila očekivali - čisti dizajn bez DJ gadgeta, s najbitnijom tehnologijom posuđenom iz modela SL1200G, no od spomenutog SL1200G ipak osjetno povoljniji.

2.999 € Kupi

Simfonija brzine i zvuka.

REL ACOUSTICS T/9X Red subwoofer

Ovaj model dolazi u upečatljivoj Rosso Corsa crvenoj boji, inspiriranoj najpoznatijim talijanskim sportskim automobilima. T/9X Red ima 10-inčni (250 mm) driver s karbonskim središnjim poklopcem koji poboljšava krutost i smanjuje masu. Opremljen je pojačalom klase A/B snage 300 W.

1.713 € Kupi

Best Buy 8K receiver.

Akcija

DENON AVR-X2800H AV receiver

Kao 7.2 ili 5.2.2 sustav s Dolby Atmosom i DTS:X ispunjava prostorije srednje velicine zvukom vrhunske klase. HEOS® Built-in takoder omogucuje bežicno strujanje online glazbe i streaming na zvucnike koji podržavaju HEOS u drugim sobama.

699 € 799 € Akcija

Izvanredan u iznimno širokom frekvencijskom rasponu.

Akcija

REVEL Concerta2 F35 zvučnici

Revel F35 je elegantni 2 2/2-stazni trostruki 5,25" samostojeci zvucnik, stražnji bas reflex, preporucena ulazna snaga 30-180W, osjetljivost 90dB, nominalna impedanca 6Ohma, frekvencijski raspon 35-20,000Hz, dimenzije Š.210mm x V.1002mm x D.310mm.

929 € 1.070 € Akcija

Subwoofer snage 300W.

Akcija

JBL Stage2 200P subwoofer

Ovaj subwoofer ima woofer niskih frekvencija od polyceluloze s visokim hodom od 10 inca (250 mm) s dvostrukim stražnjim podešenim portovima koji pružaju duboki, mocni, karakteristicni JBL bas. Kompletan skup kontrola omogucuje jednostavnu integraciju u sustav.

389 € 499 € Akcija

Dizajnirane za udobno slušanje.

Akcija

BOWERS & WILKINS Px7 S2e slušalice

Over-ear noise-canceling bežicne slušalice, posebno dizajnirane 40-mm pogonske jedinice, udoban dizajn za dugo slušanje, 24-bit DSP, aptX adaptive Bluetooth, 30 sati reprodukcije.

249 € 299 € Akcija

Gold Leaf Air Motion visokotonac.

Akcija

AUDIOVECTOR QR5 zvučnici

3-smjerni zvucnici, Bass driveri: 2 x 6” Pure Piston Technology, Bass sustav: Q-port bass reflex, frekvencijski odziv: 24-45 kHz, Gold leaf gornja granica: 102 kHz, visokotonci: Gold Leaf AMT 2 with S-stop, crossover frekvencija. 400/3000 Hz, osjetljivost: 91 dB/W/m, impedancija: 4 Ohms.

2.890 € 4.099 € Akcija

Moderan dizajn i visokokvalitetni materijali.

Best buy

AUDIO-TECHNICA ATH-M20xBT slušalice

Sa snažnim 40 mm drajverima za poboljšane niskofrekventne performanse, ATH-M20xBT Bluetooth slušalice pružaju nevjerojatno iskustvo slušanja s punim rasponom, visokokvalitetnim zvukom i poboljšanim basom.

89 € Kupi

Tehnologija Post Filter Feedback (PFFB).

Novo u ponudi

Wiim AMP Pro streaming pojačalo

Opremljen najnovijom Wi-Fi 6E i BT 5.3 tehnologijom uz podršku za BT LE audio, pruža izuzetno stabilnu bežicnu povezanost za najzahtjevnije Hi-Res audio streaming. Premium 32-bitni/384kHz ES9038 Q2M SABRE DAC i TI TPA3255 Class-D pojacalo.

459 € Kupi

Novosti iz naše Hi-Fi slušaonice

Novosti

KEF LS60 Wireless

KEF LS60 Wireless je iznimno kompaktan i elegantan zvučnik koji već od prvih taktova s lakoćom pokazuje svoje velike mogućnosti i zvuk koji ne ostavlja prostora za bilo kakve dileme - jednostavno oduševljava.

Kupi