Prema istraživanju sigurnosne tvrtke SentinelOne, spameri su koristili OpenAI za generiranje mailova koji su izbjegli filtere za detekciju spama. Od rujna 2024. do siječnja 2025. uspjeli su poslati neželjene poruke na više od 80.000 web stranica.

Spam kampanja je djelo sustava AkiraBot koji automatizira slanje poruka za promociju sumnjivih SEO usluga malim i srednjim web stranicama. AkiraBot je koristio Python skripte za rotiranje naziva domena u porukama te OpenAI-jev API s modelom gpt-4o-mini za generiranje jedinstvenih poruka prilagođenih svakoj web stranici.

Ključna prednost korištenja jezičnog modela bila je što je svaka poruka bila jedinstvena i personalizirana, što je otežalo filtriranje u usporedbi s korištenjem standardnih predložaka. AkiraBot je OpenAI-jevom API-ju dodijelio ulogu "Korisnog asistenta koji generira marketinške poruke", a uputa je nalagala zamjenu varijabli s imenom web stranice, stvarajući poruke koje su izgledale prilagođeno.

Istraživači su otkrili da su jedinstvene poruke uspješno dostavljene na više od 80.000 web stranica, dok su poruke usmjerene na oko 11.000 domena bile neuspješne. Dakle, filtri rade, ali ne uvijek.

Nakon što je SentinelLabs otkrio ovu aktivnost, OpenAI je ukinuo račun spamera i potvrdio da takva upotreba krši uvjete korištenja.