OpenAI telah mengidentifikasi tren yang meningkat dalam penyalahgunaan teknologi kecerdasan buatannya oleh kelompok-kelompok asal Tiongkok untuk operasi terselubung, menurut laporan yang dirilis pada 5 Juni. Perusahaan yang berbasis di San Francisco ini, yang baru-baru ini bernilai $300 miliar setelah putaran pendanaan rekor sebesar $40 miliar, telah mengambil tindakan dengan memblokir sejumlah akun yang terkait dengan aktivitas tersebut.
Dalam salah satu kasus yang menonjol, yang dijuluki "Sneer Review" oleh tim investigasi OpenAI, para operator membuat unggahan media sosial tentang isu-isu politik sensitif yang relevan dengan Tiongkok. Unggahan tersebut mencakup kritik terhadap gim video yang berfokus pada Taiwan, tuduhan palsu terhadap seorang aktivis Pakistan, serta konten terkait penutupan USAID. Beberapa unggahan juga mengkritik kebijakan tarif Presiden Amerika Serikat Donald Trump. Operasi ini cukup canggih hingga mampu membuat unggahan dan komentar untuk menciptakan kesan keterlibatan organik.
Operasi kedua melibatkan aktor ancaman yang terkait dengan Tiongkok yang menggunakan ChatGPT untuk mendukung berbagai fase operasi siber mereka. Hal ini mencakup riset sumber terbuka, modifikasi skrip, pemecahan masalah konfigurasi sistem, serta pengembangan alat untuk brute force kata sandi dan otomatisasi media sosial. Yang sangat mengkhawatirkan adalah temuan bahwa para pelaku ini menggunakan alat OpenAI untuk membuat dokumen internal, termasuk ulasan kinerja yang merinci aktivitas mereka.
Contoh ketiga mengungkap operasi pengaruh asal Tiongkok yang menghasilkan konten media sosial bernuansa polarisasi, mendukung kedua sisi dari isu-isu yang memecah belah dalam diskursus politik Amerika Serikat. Pendekatan ini tampaknya dirancang untuk mengeksploitasi perpecahan politik yang sudah ada, bukan untuk mempromosikan ideologi tertentu. Ben Nimmo, peneliti utama di tim intelijen OpenAI, mencatat bahwa meskipun operasi-operasi ini menunjukkan "rentang operasi terselubung yang semakin luas dengan taktik yang semakin beragam," umumnya operasi tersebut berhasil digagalkan pada tahap awal sebelum menjangkau audiens yang besar.
Laporan OpenAI juga menyebutkan telah menggagalkan operasi pengaruh terselubung dari negara lain, termasuk Rusia dan Iran, serta berbagai penipuan yang terkait dengan Kamboja dan Korea Utara. Perusahaan secara rutin memantau dan melaporkan aktivitas berbahaya di platformnya sebagai bagian dari komitmennya terhadap pengembangan AI yang bertanggung jawab.
Kementerian Luar Negeri Tiongkok belum memberikan tanggapan atas permintaan komentar terkait temuan OpenAI ini.