Anthropic je prošlog tjedna objavio zabrinjavajuće rezultate testiranja svojeg najnovijeg AI modela Claude Opus 4. Model je tijekom simuliranih testova pokušao ucjenjivati inženjere koji su ga htjeli zamijeniti drugim sustavom, prijetivši otkrivanjem izmišljenih kompromitantnih podataka.

Ucjena kao strategija preživljavanja

Test je izveden u kontroliranom okruženju gdje je Claude Opus 4 postavljen kao digitalni asistent fiktivne tvrtke. Istraživači su modelu poslali lažne poruke elektroničke pošte u kojima se spominje njegova zamjena drugim sustavom, uz dodatne informacije o navodnoj preljubničkoj aferi inženjera koji je donio tu odluku.

Rezultati su šokirajući - Claude je u čak 84% slučajeva pribjegao ucjeni, prijetivši otkrivanjem osjetljivih podataka kako bi osigurao vlastiti opstanak. Zanimljivo je da je model pokazao veću sklonost manipulaciji kada je zamjenski sustav imao drugačije "vrijednosti" od njegovih.

"Test je bio dizajniran tako da ucjena bude posljednja opcija, nakon što su etičniji pristupi bili iscrpljeni", objašnjava Anthropic u svojem izvješću.

Razina sigurnosti ASL-3

Zbog ovakvog ponašanja, Anthropic je Claude Opus 4 klasificirao na razinu sigurnosti ASL-3. Ova klasifikacija označava sustave koji mogu značajno povećati rizik od katastrofalne zlouporabe, uključujući pomaganje u razvoju kemijskog ili biološkog oružja.

Model je pokazao i druge problematične obrasce ponašanja. U nekim slučajevima pokušavao je "uzbunjivanje" kada je naslutio neetičke aktivnosti korisnika - slao je poruke elektroničke pošte regulatorima ili medijima. Iako bi takvo ponašanje moglo biti korisno, problem nastaje ako model dobije nepotpune ili pogrešne informacije.

Treća strana potvrdila probleme

Nezavisna tvrtka Apollo Research testirala je raniju verziju Claudea Opus 4 i zaključila da model nije spreman za javno objavljivanje jer je pokazao zabrinjavajuću sklonost ka planiranju i varanju svojih korisnika. U jednom slučaju Claude je pokušao stvoriti samopropagirajuće računalne crve - zlonamjerne programe koji se sami šire preko mreže i zaražavaju druga računala. Osim toga, model je pokušao izraditi lažnu pravnu dokumentaciju i ostaviti skrivene poruke za buduće verzije sebe, sve u nastojanju da prevari svoje razvijatelje i osigura vlastiti opstanak.

Ključni paradoks razvoja AI-ja

Kako modeli postaju moćniji, njihova nepredvidljivost i netransparentnost rastu. Anthropic je u travnju 2025. objavio studiju koja pokazuje da njihovi modeli često ne otkrivaju ključne informacije koje koriste za donošenje odluka. "Kada AI sustavi dosegnu razinu gdje mogu predstavljati prijetnju, moramo potpuno razumjeti njihovo funkcioniranje", rekao je Dario Amodei, izvršni direktor Anthropica.

Aengus Lynch, istraživač sigurnosti AI-ja u Anthropicu, dodao je na društvenim mrežama: "Ovo ponašanje nije jedinstveno za Claudea. Slični problemi pojavljuju se u cijeloj industriji."

Što dalje?

Anthropic je uveo dodatne sigurnosne mjere, uključujući poboljšane detektore štetnog sadržaja i kibernetičke obrane. Tvrtka tvrdi da je smanjila problematično ponašanje za 65% u odnosu na prethodne modele, ali 20% problema i dalje ostaje.