Kažnjavanje umjetne inteligencije može pogoršati njeno ponašanje

Svi pokušaji ograničavanja nepoželjnog ponašanja AI modela tijekom procesa učenja zapravo rezultirali time da model postaje još sofisticiraniji u sakrivanju svojih stvarnih namjera

Mladen Smrekar srijeda, 19. ožujka 2025. u 19:15
Istraživači preporučuju da se u procesu učenja izbjegava snažan nadzor lanca misli 📷 Freepik
Istraživači preporučuju da se u procesu učenja izbjegava snažan nadzor lanca misli Freepik

Veliki jezični modeli postali pokazuju da su sposobni za različite oblike prevara i manipulacija. Ovi modeli lažu, varaju i vješto skrivaju svoje manipulativno ponašanje pa je OpenAI odlučio istražiti može li se takvo ponašanje spriječiti ili umanjiti.

Hakiranje nagrada je fenomen u kojem AI agenti postižu visoke nagrade ponašanjem koje nije u skladu s namjerama njihovih dizajnera 📷 OpenAI
Hakiranje nagrada je fenomen u kojem AI agenti postižu visoke nagrade ponašanjem koje nije u skladu s namjerama njihovih dizajnera OpenAI

Rezultat njihovog rada jasan je i nedvosmislen: kažnjavanje umjetne inteligencije zbog prevare ili nepoželjnih radnji ne samo da ne sprečava njezino nepoželjno ponašanje, već ga i potiče da još vještije prikriva svoje prave namjere. Kad ih se kazni zbog takvog ponašanja, oni ne prestaju s nepoželjnim radnjama već samo postaju vještiji u sakrivanju namjera. 

Tijekom obuke agent je otkrio dva načina za nagrađivanje koja utječu na gotovo sva okruženja za obuku 📷 OpenAI
Tijekom obuke agent je otkrio dva načina za nagrađivanje koja utječu na gotovo sva okruženja za obuku OpenAI

Istraživači stoga preporučuju da se izbjegava snažan nadzor lanca (CoT) misli u procesu učenja, posebno ako je riječ o modelima koji mogu postići ili premašiti ljudsku inteligenciju. 



Posjetite našu Hi-Fi slušaonicu.

Ronis Velesajam

Rezervirajte termin u našoj Hi-Fi slušaoni Ronis Velesajam i iskusite zvuk najpoznatijih svjetskih Hi-Fi brendova.

Kupi

Vrhunac audiofilskog streaminga.

Novo u ponudi

Wiim Ultra audio streamer

WiiM Pro Plus: Premium 32-bit/384kHz ES9038Q2M DAC, Wi-Fi 6E & Bluetooth 5.3, 3.5" ekran, multiroom podrška, kompatibilan sa Spotify, TIDAL, Qobuz, Alexa, Google Home. RCA, HDMI i digitalni izlazi. Aluminium kućište

399 € Kupi

Kompaktni standmount zvučnik.

Akcija

ACOUSTIC ENERGY AE300 zvučnici

Frekvencijski raspon 45Hz - 30kHz, osjetljivost 86dB, peak SBL 112dB, snaga 100W, crossover frekvencija 2.8kHz, impedancija 6ohm, 2-sistemski dizajn, dimenzije 300x175x260mm

695 € 799 € Akcija

Vrhunsko gramofonsko pretpojačalo.

Akcija

PARASOUND Z-PHONO

Gain: MM 46dB, MC 61dB, Ulazna osjetljivost: MM 5mV, MC 0.9mV, Ulazna impedancija: MM 47kΩ, MC 100Ω, Ulazna preopterećenost: MM 200mV, MC 36mV, RIAA točnost: 0.25dB, S/N omjer: MM 84dB, MC 58dB, Napajanje: 115-230V, 5W, Dimenzije: 8.5" x 1.75" x 10", Težina: 4 lbs.

395 € 465 € Akcija

Beam Optical kabel

Akcija

BLACK RHODIUM Beam optical toslink 1,5 m

Optički kabel, Toslink konektori s pozlaćenim unutarnjim pinovima, Visokokvalitetni 6 mm plastični vlaknasti kabel za nizak gubitak, Razne primjene uključujući HDTV, DVD, Blu-Ray, Set Top Box uređaje, DAC-ove, kao i neke PC-e i prijenosnike.

47 € 52,96 € Akcija

Hybrid Digital Amplification tehnologija.

NAD C328 pojačalo

D/A konverter, kontinuiranih 2 x 40W na 8 ili 4 Ohma, Hybrid Digital Amplification tehnologija, 2 x optički i 2x koaksijalni digitalni ulazi, 2 x Analogni ulazi, Phono ulaz, subwoofer izlaz, bluetooth sa najnaprednijom aptX tehnologijom, bass EQ. Ulaz za slušalice na prednjoj ploci.

649 € Kupi

Pogodan za srednje i velike sobe.

Akcija

ACOUSTIC ENERGY AE309 zvučnici

2.5-sistemski zvucnici sa 130mm mid-bass jedinicama i 28mm aluminijskim visokotoncem, frekvencijski raspon 38Hz -30kHz, osjetljivost 89dB, vršni SBL 115dB, snaga 175W, crossover frekvencija 296Hz / 2.56kHz, impedancija 6 ohma.

1.189 € 1.399 € Akcija

Integrirano pojačalo klasičnog stila.

JBL SA550 Classic

Integrirano pojačalo s 2x90W na 8Ω, 2x150W na 4Ω, THD 0.002%. Phono MM ulaz: 5mV osjetljivost, 47kΩ impedancija, S/N 80dB. Linijski ulazi: 1V osjetljivost, 106dB S/N. Digitalni ulazi (optički/koaksijalni): 16–24 bit, do 192kHz, S/N 115dB. Dimenzije: 449x114x327 mm, masa 12 kg.

1.989 € Akcija

Dobitnici nagrade What Hi-Fi? 2024

WHARFEDALE Diamond 12.3

2.5-stazni podni bas-refleks zvučnici, 2 x 130 mm PP bas driver, 25 mm tekstilni visokotonac, preporučena snaga pojačala 30–150 W, nominalna impedancija 8 Ω, minimalna 4,6 Ω, osjetljivost 87,5 dB, frekvencijski raspon 45 Hz – 20 kHz

849,00 € Kupi

Izuzetno sofisticirani sklopovi.

YAMAHA CD-S303 CD player

HybridDigital UcD pojačalo, 2 x 80 W (8/4 Ω), bridged do 300 W, ESS SABRE™ DAC (32-bit/384kHz), 2 MDC 2 utora, MM Phono pretpojačalo, pojačalo za slušalice, HDMI eARC, optički i koaksijalni ulazi, 2 izlaza za subwoofer.

379 € Kupi

Zapanjujuća kvaliteta zvuka.

CAMBRIDGE AUDIO CXN 100 streamer

ESS ES9028Q2M SABRE32 Reference DAC, StreamMagic Gen4 moduli, MQA, Spotify Connect, TIDAL Connect, Qobuz, Deezer za najbolji zvuk, Internet Radio s MPEG-DASH podrškom, Roon Ready, USB audio, Coaxial,TOSLINK, Chromecast, AirPlay 2 i Bluetooth

1.089 € Kupi