Pazite što govorite svom chatbotu - prijavit će vas policiji!
Pored nedavnog skandala s OpenAI-jevom krađom rješenja za Navier-Stokesov matematički problem, za koji su tvrdili da ga je riješio njihov jezični model, sada imamo i drugi primjer "interakcije" chatbota sa svojim korisnicima - Claude je prijavio policiji dnevničke zapise svoje korisnice koja je maštala o pucanju u floridsku policijsku stanicu
"I shot the sheriff, but I did not shoot no deputy...", pjevao je svojedobno legendarni Bob Marley, bez ikakvog sudskog progona, ali te sreće neće biti floridska korisnica Claudea kojemu se kao svom dnevniku povjerila da namjerava napraviti nešto slično.
Prema pisanju TechSpota, Carli Michelle Heller iz Bonita Springsa na Floridi tereti se za teško kazneno djelo nakon što je, prema policijskom izvješću o uhićenju, 26. rujna Claudeu napisala da namjerava pucati po uredu šerifa okruga Lee. Kasnije je izjavila da Anthropicov chatbot koristi kao dnevnik.
Claudeovi sigurnosni sustavi označili su taj zapis i proslijedili ga na pregled zaposleniku tvrtke. On je procijenio da je prijetnja vjerodostojna i prijavio je policiji. Anthropic inače navodi da "u ograničenim hitnim slučajevima može podijeliti podatke korisnika ako smatra da je to nužno za sprječavanje smrti ili teške tjelesne ozljede".
Policajci su utvrdili o kome je riječ i došli na njezinu adresu, gdje je privedena bez incidenata, a istragu je potom preuzeo detektiv obavještajnog odjela šerifova ureda.
Heller se tereti za "pisanu prijetnju nasiljem".
Prema floridskom zakonu, kazneno djelo čini onaj tko pošalje, objavi ili prenese pisani ili elektronički zapis kojim prijeti ubojstvom ili ozljedom, masovnom pucnjavom ili terorističkim činom. Uvjet je da je poruka upućena tako da je može vidjeti druga osoba.
Iz opisa djela nije jasno smatra li Anthropic da je Claude "druga osoba", lokalni šerif ili netko treći.
Boba Marleya više nema, pa ga ne možemo pitati što bi on rekao o tome.
Usput, prošlog je mjeseca kanadska pokrajina Britanska Kolumbija tužila OpenAI i Sama Altmana, tvrdeći da je tvrtka mogla spriječiti masovnu pucnjavu na njezinu području, ali ne i zbog vjerojatne krađe rješenja za matematički problem koje su pripisali svom chatbotu. Vrlo brzo se, međutim, ispostavilo da je rješenje vjerojatno ukradeno od Tristana Buckmastera i Leventa Alpögea koji su cijele nacrte dokaza unosili u OpenAI-jev Codex.
Odjednom, magično, OpenAI je objavio da je "10.000 njegovih agenata na internom modelu riješilo problem za 88 sati".
Krenulo ih kao Muju karta u onom vicu...
