OpenAI telah mengeluarkan laporan komprehensif bertajuk "Menggagalkan Penyalahgunaan AI: Jun 2025," yang mendedahkan bagaimana syarikat itu mengenal pasti dan meneutralkan 10 kempen jahat yang mengeksploitasi sistem AI mereka sepanjang bulan-bulan pertama 2025.
Laporan tersebut memperincikan bagaimana pelaku yang disokong oleh negara dari enam negara—China, Rusia, Korea Utara, Iran, Kemboja, dan Filipina—telah menggunakan ChatGPT dan alat AI lain untuk melaksanakan penipuan pekerjaan, operasi pengaruh, dan kempen spam. Empat daripada kempen ini berasal dari China, memfokuskan kepada kejuruteraan sosial, operasi pengaruh tersembunyi, dan ancaman siber.
Dalam satu kempen yang dinamakan "Sneer Review," pelaku dari China membanjiri platform media sosial dengan komen kritikal yang menyasarkan permainan papan Taiwan yang bertemakan penentangan terhadap Parti Komunis China. Satu lagi operasi, "Helgoland Bite," melibatkan pelaku Rusia yang menghasilkan kandungan berbahasa Jerman yang mengkritik AS dan NATO sambil cuba mempengaruhi pilihan raya Jerman 2025. Pelaku dari Korea Utara pula dikesan menggunakan AI untuk menghasilkan resume palsu secara besar-besaran bagi jawatan teknologi jarak jauh, dengan tujuan mendapatkan kawalan ke atas peranti korporat yang diberikan semasa proses pengambilan pekerja.
Pasukan keselamatan OpenAI menggunakan AI sebagai pengganda kuasa dalam usaha penyiasatan mereka, membolehkan mereka mengesan, menggagalkan, dan mendedahkan aktiviti penyalahgunaan termasuk kejuruteraan sosial, pengintipan siber, dan skim pekerjaan palsu. Sistem pengesanan syarikat telah menandakan tingkah laku luar biasa dalam semua kempen, yang membawa kepada penamatan akaun serta perkongsian maklumat risikan dengan platform rakan kongsi.
"Kami percaya bahawa perkongsian dan ketelusan dapat meningkatkan kesedaran dan kesiapsiagaan semua pihak berkepentingan, sekali gus membawa kepada pertahanan kolektif yang lebih kukuh terhadap musuh yang sentiasa berubah," kata OpenAI dalam laporannya. Walaupun AI generatif tidak mencipta kategori ancaman baharu sepenuhnya, ia telah menurunkan halangan teknikal untuk pelaku jahat dan meningkatkan kecekapan serangan yang diselaraskan.
Pakar keselamatan menekankan bahawa organisasi mesti sentiasa berwaspada terhadap bagaimana musuh menggunakan model bahasa besar dalam operasi mereka dan perlu terlibat dengan maklumat risikan masa nyata yang dikongsi oleh syarikat seperti OpenAI, Google, Meta, dan Anthropic untuk membina pertahanan kolektif yang lebih kukuh terhadap ancaman yang semakin berkembang ini.