OpenAIは、同社のAI技術を利用した中国発の秘密工作が増加しているという懸念すべき傾向を、2025年6月5日に発表した包括的な脅威レポートで明らかにした。
サンフランシスコに拠点を置くOpenAIは、過去3カ月間に10件の悪意ある工作を阻止し、そのうち4件が中国と関連していた。これらの工作は、ソーシャルエンジニアリング、サイバースパイ活動、複数国を標的とした影響工作など、高度な戦術を駆使していた。
特に注目すべき事例として「Sneer Review」と呼ばれる作戦では、中国の工作員がChatGPTを使い、TikTok、X、Reddit、Facebookなど複数のSNS上で多言語による短文コメントを生成。投稿やコメントを自動生成し、自然なエンゲージメントを装って、米国の外交政策から台湾を題材にしたゲームへの批判まで幅広いトピックを標的にした。さらに、OpenAIのツールを用いて、作戦手順を記録する内部パフォーマンスレビューまで作成していたという。
別の中国関連キャンペーンでは、記者や地政学アナリストを装い情報収集を実施。ChatGPTで説得力のあるプロフィールを作成し、通信の翻訳やデータ分析にもAIを活用した。さらに、米国内の分断的な政治トピックの両陣営を支持する極端なコンテンツや、AI生成のプロフィール画像も作成された。
今回のレポートでは中国が大きく取り上げられたが、OpenAIはロシア、北朝鮮、イラン、カンボジア、フィリピンからの悪意あるAI利用も確認。これにはマルウェア開発、企業への潜入を目的とした偽履歴書の作成、プロパガンダの自動化などが含まれていた。
OpenAIのインテリジェンスチーム主任調査員ベン・ニモ氏は「中国からは多様な戦術を用いた秘密工作が増加している」と述べつつも、大半の工作は早期に阻止され、影響範囲も限定的だったと指摘した。
レポートは、AIが悪意あるアクターの障壁を下げ、作戦効率を高めている現状を強調。OpenAIは「共有と透明性が、すべての関係者の意識と備えを高め、進化し続ける脅威に対する強固な集団防衛につながると信じている」として、警戒の重要性を訴えている。