Revizorsko-konzultantska tvrtka KPMG bila je prisiljena povući svoje opsežno izvješće pod nazivom "Redefiniranje izvrsnosti u doba agentivne umjetne inteligencije". To se dogodilo jer je dokument, koji je trebao služiti kao vodič za korištenje AI tehnologije, i sam bio žrtva njezinih najvećih mana - takozvanih "halucinacija". Sadržavao je lažne tvrdnje, izmišljene studije slučaja i citate, što je dovelo do javnih demantija od strane nekoliko velikih globalnih organizacija i nanijelo ozbiljan udarac ugledu tvrtke.

Halucinacije u izvješću o izvrsnosti

Izvješće, objavljeno u listopadu 2025. godine, predstavljalo je KPMG kao lidera u razumijevanju i primjeni napredne umjetne inteligencije. Međutim, nedugo nakon objave, uočene su netočnosti u izvještaju. Istraživačka grupa GPTZero, specijalizirana za detekciju sadržaja generiranog umjetnom inteligencijom, identificirala je brojne netočnosti u izvješću. Njihova analiza, kako su prenijeli za Financial Times, zaključila je da su greške posljedica AI halucinacija. Drugim riječima, čini se da je KPMG koristio AI za pomoć pri pisanju izvješća o AI-ju, bez adekvatnog ljudskog nadzora koji bi provjerio točnost navoda.

Švicarski bankarski div UBS, britanska Nacionalna zdravstvena služba (NHS), Švicarske savezne željeznice i londonski javni prijevoznik Transport for London redom su izjavili da su tvrdnje o njihovoj upotrebi AI tehnologija, navedene u KPMG-ovom izvješću, ili potpuno neistinite ili u najboljem slučaju obmanjujuće. Suočen s lavinom demantija, KPMG nije imao izbora. Glasnogovornik tvrtke potvrdio je da je izvješće uklonjeno sa svih internetskih stranica dok se provodi interna istraga. "Očekujemo od svih naših ljudi da slijede smjernice o odgovornoj upotrebi umjetne inteligencije, uključujući ljudski nadzor radi validacije sadržaja i provjere neovisnih izvora", poručio je glasnogovornik, pokušavajući sanirati nastalu štetu.

Istraga otkrila "vibe citiranje" i kontradikcije

Dublja analiza tvrtke GPTZero otkrila je šokantne razmjere problema. Od čak 45 citata navedenih u izvješću, samo ih je pet ispravno upućivalo na stvarne izvore. Ostatak je bio mješavina potpuno izmišljenih referenci, pogrešno pripisanih izjava i značajno iskrivljenih informacija. GPTZero je ovaj fenomen nazvao "vibe citiranje" (eng. vibe citing), terminom koji opisuje praksu generativne umjetne inteligencije da stvara lažne reference koje na prvi pogled izgledaju uvjerljivo i stilski se uklapaju u tekst, ali nemaju nikakvo utemeljenje u stvarnosti.

Osim lažnih studija slučaja, izvješće je sadržavalo i bizarne unutarnje kontradikcije. Primjerice, na jednom se mjestu tvrdilo da 55 posto izvršnih direktora smatra umjetnu inteligenciju svojim glavnim investicijskim prioritetom, pozivajući se na "KPMG istraživanje". Istovremeno, drugo KPMG-ovo službeno izvješće iz istog mjeseca, "KPMG 2025 CEO Outlook", navodilo je znatno drugačiju brojku od 71 posto za istu tvrdnju. Takve nedosljednosti dodatno su potkopale kredibilitet dokumenta i otvorile pitanje o procesima kontrole kvalitete unutar jedne od najvećih konzultantskih kuća na svijetu.

Problem koji se ponavlja u industriji

Ovaj incident nije usamljen slučaj. Nevjerojatno, ali istinito, prošlog je mjeseca i konkurentska tvrtka EY povukla svoje izvješće o programima vjernosti nakon što se otkrilo da sadrži lažne fusnote i halucinacije umjetne inteligencije. Sličan se problem dogodio i na državnoj razini, kada je Južnoafrička Republika morala povući svoju nacionalnu strategiju o umjetnoj inteligenciji jer je utvrđeno da je najmanje šest od 67 akademskih citata u dokumentu bilo u potpunosti izmišljeno od strane AI-ja.

KPMG-ov slučaj postao je jasan primjer opasnosti pretjeranog oslanjanja na generativnu umjetnu inteligenciju za stvaranje složenog sadržaja bez rigorozne ljudske provjere.