OpenAI telah mengenal pasti trend yang semakin meningkat di mana kumpulan dari China menyalahgunakan teknologi kecerdasan buatan mereka untuk operasi sulit, menurut satu laporan yang dikeluarkan pada 5 Jun. Syarikat yang berpangkalan di San Francisco itu, yang baru-baru ini dinilai pada $300 bilion selepas pusingan pembiayaan rekod sebanyak $40 bilion, telah mengambil tindakan dengan menyekat beberapa akaun yang dikaitkan dengan aktiviti ini.
Dalam satu kes yang menonjol, yang dinamakan "Sneer Review" oleh penyiasat OpenAI, pengendali menghasilkan hantaran media sosial mengenai topik sensitif politik berkaitan China. Ini termasuk kritikan terhadap permainan video berpusatkan Taiwan, tuduhan palsu terhadap seorang aktivis Pakistan, dan kandungan berkaitan penutupan USAID. Beberapa hantaran juga mengkritik dasar tarif Presiden Amerika Syarikat, Donald Trump. Operasi ini cukup canggih untuk mencipta kedua-dua hantaran dan komen bagi mewujudkan gambaran seolah-olah terdapat penglibatan organik.
Operasi kedua melibatkan pelaku ancaman yang berpangkalan di China menggunakan ChatGPT untuk menyokong pelbagai fasa operasi siber mereka. Ini termasuk penyelidikan sumber terbuka, pengubahsuaian skrip, penyelesaian masalah konfigurasi sistem, dan pembangunan alat untuk serangan kekerasan kata laluan serta automasi media sosial. Yang lebih membimbangkan, pelaku ini didapati menggunakan alat OpenAI untuk menghasilkan dokumen dalaman, termasuk ulasan prestasi yang memperincikan aktiviti mereka.
Contoh ketiga mendedahkan operasi pengaruh yang berpunca dari China yang menghasilkan kandungan media sosial berunsur polarisasi bagi menyokong kedua-dua pihak dalam topik perpecahan dalam wacana politik Amerika Syarikat. Pendekatan ini dilihat bertujuan mengeksploitasi perpecahan politik sedia ada dan bukannya mempromosikan pendirian ideologi tertentu. Ben Nimmo, penyiasat utama pasukan perisikan OpenAI, menyatakan bahawa walaupun operasi ini menunjukkan "pelbagai operasi sulit dengan pelbagai taktik yang semakin berkembang", ia umumnya berjaya digagalkan pada peringkat awal sebelum mencapai penonton yang besar.
Laporan OpenAI turut menyebut tentang gangguan ke atas operasi pengaruh sulit dari negara lain, termasuk Rusia dan Iran, serta pelbagai penipuan yang dikaitkan dengan Kemboja dan Korea Utara. Syarikat ini secara berkala memantau dan melaporkan aktiviti berniat jahat di platform mereka sebagai sebahagian daripada komitmen terhadap pembangunan AI yang bertanggungjawab.
Kementerian Luar China belum memberikan maklum balas terhadap permintaan komen mengenai penemuan OpenAI.