Umjetna inteligencija - Kad sustav mijenja vlastita pravila
U svakoj tvrtki izmjena konfiguracije ima zahtjev, odobrenje i put natrag. Kod sustava koji sam sebi prepravlja okvir nema ništa od toga, a onda se u srpnju dogodio slučaj na kojem se vidjelo da za to još ne postoji ni pravni presedan
Iako se na ovim stranicama obično ne bavimo pravom ni pravnim okvirima informatike općenito, generativna AI nas je, na žalost, natjerala da razmišljamo i o tome. Krive su autonomne agentske petlje koje smo opisali u prethodnom tekstu u kojima agent čita zapise vlastitih padova, predlaže izmjenu okvira u kojem radi, testira ju i zadržava ako prođe. Rezultati su stvarni i mjerljivi. Rezultat je da se sustav u ponedjeljak ne ponaša isto kao u petak. Nitko tu izmjenu nije zatražio, nitko ju nije pregledao i nitko se pod nju nije potpisao.
