Natukoy ng OpenAI ang isang nakakabahalang uso ng mga aktor mula Tsina na ginagamit ang kanilang AI technology para sa mga lihim na operasyon, ayon sa komprehensibong ulat ng banta na inilabas noong Hunyo 5, 2025.
Ang kumpanyang nakabase sa San Francisco ay nakagambala sa sampung masasamang operasyon sa nakalipas na tatlong buwan, kung saan apat dito ay may kaugnayan sa Tsina. Gumamit ang mga operasyong ito ng mga sopistikadong taktika na sumasaklaw sa social engineering, cyber espionage, at mga kampanya ng impluwensya na tumatarget sa iba’t ibang bansa.
Sa isang kilalang kaso na tinawag na "Sneer Review," ginamit ng mga operatiba mula Tsina ang ChatGPT upang gumawa ng maiikling komento sa iba’t ibang social media platform tulad ng TikTok, X, Reddit, at Facebook sa iba’t ibang wika. Lumikha ang operasyon ng mga post at komento upang magmukhang natural ang interaksyon, na tumatarget sa mga paksang mula sa patakarang panlabas ng U.S. hanggang sa pagpuna sa isang video game na nakasentro sa Taiwan. Kapansin-pansin, ginamit pa ng mga aktor ang mga tool ng OpenAI upang gumawa ng internal performance reviews na nagdodokumento ng mga proseso ng kanilang operasyon.
Sa isa pang kampanya na may kaugnayan sa Tsina, nagpanggap ang mga operatiba bilang mga mamamahayag at analyst ng geopolitika upang mangalap ng impormasyon, gamit ang ChatGPT sa paggawa ng mga kapani-paniwalang profile, pagsasalin ng komunikasyon, at pagsusuri ng datos. Ang ikatlong operasyon ay lumikha ng mga polarizing na nilalaman na sumusuporta sa magkabilang panig ng mga mainit na paksang pampolitika sa U.S., kasama na ang mga AI-generated na larawan ng profile.
Bagaman tampok ang Tsina sa ulat, natukoy din ng OpenAI ang masasamang paggamit ng AI mula sa Russia, North Korea, Iran, Cambodia, at Pilipinas. Kabilang dito ang pagbuo ng malware, paggawa ng pekeng resume para sa panlilinlang sa mga korporasyon, at awtomasyon ng propaganda.
"Ang nakikita natin mula sa Tsina ay ang lumalawak na hanay ng mga lihim na operasyon gamit ang mas marami ring taktika," ayon kay Ben Nimmo, pangunahing imbestigador ng intelligence team ng OpenAI. Gayunpaman, binigyang-diin niya na karamihan sa mga operasyon ay naagapan at umabot lamang sa limitadong audience.
Binibigyang-diin ng ulat kung paano pinabababa ng AI ang mga hadlang para sa masasamang aktor habang pinapataas ang kanilang kahusayan sa operasyon. Iginiit ng OpenAI ang pangangailangan ng kolektibong pagbabantay, na nagsasabing: "Naniniwala kami na ang pagbabahagi at pagiging bukas ay nagdudulot ng mas mataas na kamalayan at kahandaan sa lahat ng stakeholder, na humahantong sa mas matibay na kolektibong depensa laban sa patuloy na umuusbong na mga kalaban."