OpenAI, 5 Haziran'da yayımladığı bir rapora göre, Çinli grupların yapay zeka teknolojisini gizli operasyonlar için kötüye kullanma eğiliminde artış tespit etti. San Francisco merkezli şirket, kısa süre önce rekor 40 milyar dolarlık bir yatırım turunun ardından 300 milyar dolar değerlemeye ulaşmıştı ve bu faaliyetlerle bağlantılı birçok hesabı yasaklayarak önlem aldı.
OpenAI araştırmacılarının "Sneer Review" adını verdiği dikkat çekici bir vakada, operatörler Çin ile ilgili hassas siyasi konularda sosyal medya gönderileri üretti. Bunlar arasında Tayvan merkezli bir video oyununa yönelik eleştiriler, bir Pakistanlı aktiviste yönelik asılsız suçlamalar ve USAID'in kapatılmasıyla ilgili içerikler yer aldı. Bazı paylaşımlar ise ABD Başkanı Donald Trump'ın gümrük tarifesi politikalarını eleştiriyordu. Operasyon, hem gönderi hem de yorum üreterek organik etkileşim izlenimi yaratacak kadar sofistikeydi.
İkinci bir operasyonda ise Çin bağlantılı tehdit aktörlerinin ChatGPT'yi siber operasyonlarının çeşitli aşamalarında kullandığı tespit edildi. Bu kullanım alanları arasında açık kaynak araştırması, komut dosyası (script) değiştirme, sistem yapılandırmalarında sorun giderme ve parola kırma ile sosyal medya otomasyonu için araç geliştirme yer aldı. Özellikle endişe verici olan ise, bu aktörlerin OpenAI araçlarını kendi iç belgelerini, faaliyetlerini detaylandıran performans değerlendirmelerini oluşturmak için de kullanmalarıydı.
Üçüncü bir örnekte ise Çin kaynaklı bir etki operasyonunun, ABD siyasi tartışmalarında kutuplaştırıcı sosyal medya içerikleri üreterek bölücü konuların her iki tarafını da desteklediği ortaya çıktı. Bu yaklaşım, belirli bir ideolojik duruşu teşvik etmekten ziyade mevcut siyasi ayrılıkları istismar etmeye yönelik görünüyor. OpenAI istihbarat ekibinin baş araştırmacısı Ben Nimmo, bu operasyonların "artan çeşitlilikte gizli operasyonlar ve taktiklerle" yürütüldüğünü, ancak genellikle geniş kitlelere ulaşmadan erken aşamada engellendiklerini belirtti.
OpenAI raporunda ayrıca, Rusya ve İran gibi diğer ülkelerden gelen gizli etki operasyonlarının yanı sıra Kamboçya ve Kuzey Kore bağlantılı çeşitli dolandırıcılık faaliyetlerinin de engellendiği ifade edildi. Şirket, sorumlu yapay zeka geliştirme taahhüdü kapsamında platformundaki kötü niyetli faaliyetleri düzenli olarak izleyip raporluyor.
Çin Dışişleri Bakanlığı ise OpenAI'nin bulgularına ilişkin yorum taleplerine yanıt vermedi.