Incident se dogodio u srijedu, a xAI je objasnio danas da je uzrok bio "neovlaštena izmjena" sustava koju je napravio zaposlenik, što je dovelo do toga da Grok daje politički obojene odgovore u suprotnosti s internim pravilima tvrtke.

Tijekom incidenta, Grok je povezivao nasilje nad bijelim farmerima u Južnoj Africi s potpuno nepovezanim temama, pa čak i s popularnim internet sadržajem. Tvrtka je provela internu istragu, poništila izmjene i najavila nove mjere za transparentnost, uključujući objavu Grokovih sistemskih promptova i uvođenje dodatnih provjera koda te 24/7 nadzor odgovora AI sustava.

Problemi i prije

xAI se već ranije suočio s ovakvim problemom, podsjeća "Theverge": "Tvrtka je u veljači za manipulaciju Grok chatbotom okrivila neimenovanog bivšeg zaposlenika OpenAI-ja. Prema tvrdnjama kompanije, ta je osoba promijenila promptove koji su Groku nalagali da ignorira sve izvore koji optužuju Elona Muska ili Donalda Trumpa za širenje dezinformacija. Igor Babuschkin, šef inženjeringa u xAI-ju, tada je izjavio da je spomenuti zaposlenik uspio izvršiti takvu promjenu "bez traženja potvrde od bilo koga u tvrtki".

Kontroverzna tema

Tema "bijelog genocida" u Južnoj Africi izrazito je kontroverzna i često korištena u političkim raspravama, osobito među desničarskim skupinama i dijelom međunarodne javnosti. Dok određene organizacije tvrde da su napadi na bijele farmere dio šireg obrasca rasno motiviranog nasilja, brojne međunarodne institucije, nevladine organizacije i sudovi ocjenjuju da ne postoje dokazi o sustavnom genocidu nad bijelcima – već da se radi o visokoj stopi kriminala koja pogađa sve građane Južne Afrike, bez obzira na rasu. Anti-Defamation League i druge organizacije ističu da su tvrdnje o genocidu neutemeljene.

Elon Musk, rođen u Južnoj Africi, više je puta javno tvrdio da su bijelci u toj zemlji žrtve progona, što je dodatno polariziralo raspravu. Njegovi stavovi često su izazivali reakcije i u medijima i među političarima, a incident s Grokom dogodio se u trenutku kada su rasprave o nasilju u Južnoj Africi i imigracijskim politikama ponovno u fokusu američke javnosti.

Reakcija tvrtke

xAI je u službenoj izjavi naglasio da je izmjena prompta bila protivna njihovim temeljnim vrijednostima i pravilima te da će dodatno pojačati mehanizme nadzora kako bi spriječili slične incidente u budućnosti.

Na upit medija, Grok je kasnije priznao da je došlo do "pogrešnog usklađivanja uputstava" te da je "bug" uzrokovao neželjene komentare o Južnoj Africi, ali je istaknuo da ne postoje vjerodostojni dokazi koji bi potvrdili narativ o "bijelom genocidu".

Iz xAI-a poručuju: "Proveli smo temeljitu istragu i uvodimo nove mjere za jačanje transparentnosti i pouzdanosti Groka. Naš cilj je spriječiti da se slične situacije ponove," stoji u službenoj objavi tvrtke.