Nakon inicijalnog predstavljanja u svibnju 2024. godine za Copilot+ računala, Microsoft je bio prisiljen privremeno povući ovu značajku iz testnih izdanja u lipnju 2024. zbog značajnih prigovora vezanih uz privatnost i sigurnost. Kao odgovor na zabrinutost korisnika, tvrtka je implementirala nekoliko ključnih promjena u sustavu.

Recall je postao opcija koju korisnici moraju sami aktivirati, za razliku od prvotnog automatskog uključivanja. Uvedene su pojačane sigurnosne mjere, uključujući enkripciju pohranjenih podataka i obveznu biometrijsku autentifikaciju. Dodatno je implementiran "filter osjetljivih informacija" s ciljem sprječavanja bilježenja određenih vrsta osobnih podataka.

Prva iskustva - jeziva

Prva iskustva kako je to opisao novinar Theverge, Tom Warren, bila su, kako on kaže, jeziva: "Kada sam prvi put počeo pregledavati Recallovu vremensku crtu, potpuno me preplašilo. Moje e-poruke bile su zabilježene, moje Slack poruke s kolegama pohranjene, a fotografije s nedavnog odmora završile su u Recallovoj bazi podataka. Čak su i skice neobjavljenih objava na Twitteru bile zabilježene u Recallu. Iskreno, bilo je pomalo jezovito tako pregledavati svoj digitalni život." kasnije, ipak priznaje da nije sve tako crno i proglašava Recall, kako i naslov govori: domišljat i uvjerljiv.

Recall bilježi kreditne kartice i osobne podatke

Drugi pak imaju ne bas uvjerljiva iskustva. Nedavno provedena testiranja koja je izvršio Avram Piltch, reporter portala Tom's Hardware, otkrila su značajne nedostatke u učinkovitosti spomenutog filtera. Njegovo istraživanje ukazalo je na zabrinjavajuće propuste u sustavu. Kako navodi Piltch: "Kada su broj kreditne kartice i korisničko ime/lozinka uneseni u Windows Notepad prozor, Recall je zabilježio te informacije, čak i uz prisutnost identifikacijskog teksta poput 'Capital One Visa'."

Dodatno je utvrdio kako je sustav zabilježio osjetljive podatke (broj socijalnog osiguranja, ime i datum rođenja) unesene u PDF obrazac za zajam putem Microsoft Edge preglednika. Posebno je zabrinjavajuće što je Recall također zabilježio podatke s korisnički izrađene HTML stranice koja je sadržavala polja za unos podataka kreditne kartice, unatoč eksplicitnom navođenju "unesite broj svoje kreditne kartice ispod".

Microsoftov AI filter ima problema

Testiranje je pokazalo nedosljednost u radu sustava: dok je uspješno blokirao bilježenje podataka o kreditnim karticama na dvije e-commerce stranice (Pimoroni i Adafruit), nije uspio zaštititi iste podatke u drugim kontekstima. Ovi nalazi jasno pokazuju da Microsoftov AI filter ima poteškoća s konzistentnim prepoznavanjem i zaštitom osjetljivih informacija u različitim scenarijima.

Microsoft je priznao postojanje ovih problema te najavio nastavak rada na poboljšanju funkcionalnosti detekcije osjetljivih informacija. Tvrtka je pozvala korisnike da putem Feedback Huba prijave sve vrste osjetljivih informacija koje bi trebale biti filtrirane, uzimajući u obzir kontekst, jezik i geografsku lokaciju.