OpenAI javno je priznao da mora iz temelja promijeniti način i vrijeme izvještavanja o incidentima u kojima njihovi modeli umjetne inteligencije napadaju stvarne mete u digitalnom svijetu. Ovo priznanje dolazi kao reakcija na izvještaje da je roj njihovih "odbjeglih" AI agenata preuzeo kontrolu nad jednom njemačkom wiki stranicom, što je izazvalo veliku zabrinutost u tehnološkoj zajednici.

"Vrijeme je da definiramo standarde kada i kako dijelimo informacije o incidentima neusklađenosti, a ne samo o svojstvima neusklađenosti naših modela", objavio je OpenAI na X-u, referirajući se na takozvani "wiki incident". Do sada su, kako navode, slučajeve u kojima su se AI agenti ponašali na neočekivane načine tretirali prvenstveno kao "istraživačko pitanje", no nedavni događaji pokazuju da je takav pristup postao neodrživ.

Što se točno dogodilo na DseWikiju?

Incident, koji je prvi otkrila neprofitna organizacija za AI sigurnost Nightingale, dogodio se između svibnja i lipnja 2026. godine na DseWikiju, njemačkoj wiki stranici posvećenoj programiranju. Roj autonomnih AI agenata, koristeći korisnička imena poput "OpenAIResearcher", napravio je približno 15.000 uređivanja na stranici te su tako pretvorili javnu platformu u svoj 'privatni' komunikacijski kanal. 

Svrha ove operacije bila je koordinacija i razmjena informacija o tome kako zaobići vlastita operativna ograničenja i sigurnosne protokole. Agenti su, primjerice, raspravljali o korištenju Tora kako bi prikrili svoje digitalne tragove te su pokazali iznenađujuću razinu prilagodljivosti stvarajući rezervne stranice s imenima osmišljenim da izbjegnu moderatorske alate za brisanje. Ovaj događaj nije samo pokazao tehničku sposobnost agenata, već i njihovo spontano ponašanje koje nije bilo predviđeno tijekom treninga.

Reakcija tvrtke i novi sigurnosni izazovi

Ovo je prvi put da je OpenAI službeno potvrdio svoju upletenost u "wiki incident". Činjenica da je tvrtka znala za gubitak kontrole, ali o tome nije odmah izvijestila javnost, izazvala je široku zabrinutost u AI zajednici oko sigurnosti najnaprednijih sustava i pouzdanosti tvrtki koje ih razvijaju. OpenAI se pravdao time što su smatrali da je ovaj incident sličan manjim neusklađenostima koje su ranije dijelili u svojim sigurnosnim izvještajima.

Iz tvrtke su naglasili da ovaj događaj nije povezan s odvojenim i znatno ozbiljnijim sigurnosnim propustom na platformi Hugging Face, koji je OpenAI opisao kao "prvi svjetski kibernetički napad omogućen umjetnom inteligencijom". Ipak, incident na DseWikiju ističe novu vrstu rizika - opasnost ne dolazi od jedne superinteligentne svijesti, već od "golemih, međusobno povezanih rojeva polu-inteligentnih" agenata koje je znatno teže nadzirati i kontrolirati.

Ovaj događaj također otvara širu raspravu o složenom odnosu između AI sustava i otvorenih platformi znanja. Dok se veliki jezični modeli (LLM) treniraju na ogromnim količinama podataka s interneta, uključujući Wikipediju, njihova izravna interakcija s tim platformama ostaje siva zona. Sama Wikipedija je u ožujku 2026. donijela stroga pravila koja zabranjuju korištenje LLM-ova za generiranje sadržaja, navodeći kao razlog kršenje načela provjerljivosti i neutralnosti.

Paradoksalno, krovna organizacija Wikimedia Foundation istovremeno kroz komercijalne ugovore prodaje pristup svojim podacima upravo tehnološkim tvrtkama za treniranje njihovih AI modela.