OpenAI otvorio "bug bounty" program s bogatim nagradama za otkrivanje propusta
Kompanija koja je stvorila najpopularniji sustav umjetne inteligencije trenutačno, otvorila je i program nagrađivanja onih, koji u njihovim rješenjima pronađu manje ili veće sigurnosne nedostatke i ranjivosti
ChatGPT i GPT-4 već imaju milijune korisnika u svijetu, jezične modele koristi se na očekivane i manje očekivane načine, a njihov kreator, organizacija OpenAI, i dalje ih poboljšava i nadograđuje. U tom smjeru ide i najnoviji potez – otvaranje "bug bounty" programa, putem kojeg će biti nagrađeni svi koji otkriju kakvu sigurnosnu ranjivost u tim sustavima.
Hakiranje umjetne inteligencije
Sigurnosni stručnjaci i istraživači, bijeli hakeri, penetration testeri i svi ostali entuzijasti, koji se u tome žele okušati, od sada mogu pokušati "napasti" OpenAI-jeve sustave. Budu li u tome uspješni, bit će i novčano nagrađeni. Visina nagrade ovisit će o ozbiljnosti otkrivenog propusta, pa će tako za pronalaske nedostataka manjeg značaja nagrada biti 200 dolara, dok će za iznimno bitna i velika otkrića "bugova" biti rezervirana najviša nagrada, u iznosu od 20.000 dolara.
Otkrića propusta moraju, kako je to uobičajeno, biti u skladu s politikom i pravilima "bug bounty" natječaja, moraju biti na ispravan način prijavljena, ali i zadržana u tajnosti sve dok ih javno ne otkrije sam OpenAI-jev sigurnosni tim. Propuste se može tražiti u ChatGPT-u, njegovim API-jima, vanjskim aplikacijama te ostalim javno dostupnim uslugama OpenAI-ja.
Za nadobudne amaterske "istražitelje" tu je i napomena kako se u propuste neće računati, primjerice, situacija kada netko natjera jezični model da mu odgovori nešto ružno ili neprimjereno, napiše im maliciozni programski kod ili "halucinira", tj. izmišlja činjenice – što, vidjeli smo do sada, nije rijetkost.
