OpenAIは6月5日に発表したレポートで、中国のグループによる自社AI技術の秘密工作への悪用が増加傾向にあることを明らかにした。サンフランシスコに本拠を置く同社は、直近の資金調達で評価額が3,000億ドルに達し、400億ドルという記録的な調達を実現したばかりだが、こうした活動に関連する複数のアカウントをすでに停止する措置を講じている。
特に注目された事例として、OpenAIの調査チームが「Sneer Review」と名付けた作戦がある。ここでは、中国に関連する政治的に敏感な話題についてSNS投稿が生成されていた。例えば、台湾をテーマにしたビデオゲームへの批判、パキスタンの活動家への虚偽の非難、USAIDの閉鎖に関する投稿などが含まれる。また、米国のドナルド・トランプ大統領の関税政策を批判する内容も見られた。この作戦は、投稿だけでなくコメントも生成し、自然なエンゲージメントを装うほど巧妙だった。
また別の作戦では、中国関連の脅威アクターがChatGPTをサイバー作戦の様々な段階で活用していた。これにはオープンソース情報の調査、スクリプトの改変、システム設定のトラブルシューティング、パスワード総当たり攻撃やSNS自動化ツールの開発などが含まれる。特に懸念されたのは、これらのアクターがOpenAIのツールを使って自らの活動を記録した内部文書や業績評価レポートまで作成していた点だ。
さらに三つ目の事例では、米国の政治的分断を利用するため、対立する両陣営を支持するSNSコンテンツを生成する中国発の影響工作が明らかになった。これは特定のイデオロギーを推進するのではなく、既存の分断を拡大させる狙いがあるとみられる。OpenAIインテリジェンスチームの主任調査員ベン・ニモ氏は、「秘密工作の範囲と手法が拡大している」としつつも、これらの作戦の多くは大規模な拡散前に早期に阻止されたと述べている。
OpenAIのレポートでは、中国以外にもロシアやイランによる秘密影響工作、カンボジアや北朝鮮に関連する詐欺行為なども阻止したと言及している。同社は責任あるAI開発の一環として、プラットフォーム上の悪質な活動を定期的に監視・報告している。
中国外務省は、OpenAIの調査結果に関するコメント要請に現時点で応じていない。