スーパーインテリジェントAIの実現を目指す世界的な競争が、技術的な対立から実際の紛争にまで発展する可能性がある――元グーグルCEOのエリック・シュミット氏はこうした警告を発している。
2025年5月のTEDトークでシュミット氏は、米中間のAI軍拡競争が冷戦時代の核対立にますます似てきていると指摘した。もし一方の国がスーパーインテリジェントAIの開発で先行し始めれば、後れを取った国は、永久的な遅れを回避するために破壊工作やデータセンター爆撃など、ますます過激な手段に訴える恐れがあるという。
シュミット氏は、中国がオープンソース型でAI開発を進めていることが、クローズドかつ独自モデルを重視する米国にとって戦略的リスクになると強調。「中国はAIの進歩をオープンに共有しているため、米国もその恩恵を受けているが、グローバルなオープンソース競争で出遅れるリスクもある」と説明した。この構図は、最初にスーパーインテリジェンスを達成した国がネットワーク効果によって不可逆的な優位を得るという、競争の激化を招きかねない。
シュミット氏と共著者のアレクサンドル・ワン氏、ダン・ヘンドリックス氏は、2025年3月の論文で「相互確証AI故障（MAIM）」という枠組みを提案している。これは冷戦期の原則に着想を得たサイバー中心の抑止モデルで、一方的なAI支配を目指す攻撃的な動きがあれば、ライバル国による予防的措置が発動されることを前提とする。
「スーパーウェポンと世界支配を目指す動きは、敵対的な対抗措置や緊張の激化を招き、安定性を損なうリスクがある」とシュミット氏らは記している。リスクは存在論的であり、AIインフラへのサイバー破壊工作から、冷戦時代の瀬戸際政策を想起させる先制攻撃まで、さまざまなシナリオが想定される。
国家安全保障担当補佐官のエヴリン・グリーン氏など一部の批評家は、MAIMには核不拡散条約のような強制力がないと指摘するが、シュミット氏は「抑止力に加え、透明性と国際協調を組み合わせることで、スーパーインテリジェントAIの前例なきリスク管理に最善の道を示せる」と主張している。