人工知能（AI）業界では、ますます強力になるAIシステムがもたらす潜在的な存在リスクへの対応を巡り、主要企業間で大きな意見の隔たりが生じている。
Anthropicは、アマゾンの支援を受け、企業価値610億ドルと評価される中で、最も慎重な立場を取っている。同社は、制御不能なAI能力が安全対策を上回ることへの警鐘を鳴らし続けている。CEOのダリオ・アモデイ氏は、最悪のシナリオを想定した計画の必要性を強く訴えており、最近では「モデルは間もなくほぼすべての分野で人間を上回るだろう」と発言した。同社の責任あるスケーリングポリシーには、隠しデバイスの有無を確認するオフィスの物理的セキュリティ強化や、強力なモデルの導入前に評価を行う経営リスク委員会の設置などが含まれている。
OpenAIは、企業価値3,000億ドルと評価される中で、異なるアプローチを取っている。同社は透明性の確保を重視し、2025年5月に「Safety Evaluations Hub」を立ち上げた。このウェブプラットフォームでは、同社のモデルが有害コンテンツ生成、脱獄（jailbreak）、幻覚（hallucination）など様々な安全性テストでどのような評価を受けたかを公開している。OpenAIは主要モデルのリリースごとにこれらの指標を定期的に更新すると約束している。しかし、最近のPreparedness Framework（備えの枠組み）の更新では、競合他社が同様の保護策なしに高リスクのシステムをリリースした場合、安全要件を「調整」する可能性が示唆され、懸念の声も上がっている。
Google DeepMindは、最も体系的かつ段階的なアプローチを採用しているようだ。同社は2025年4月、AGI（汎用人工知能）安全性に関する145ページに及ぶ包括的な論文を発表した。「Frontier Safety Framework」では、AIリスクを「悪用」「ミスアラインメント（目的のずれ）」「事故」「構造的リスク」の4つに分類。同社の戦略は、堅牢なトレーニング、モニタリング、セキュリティプロトコルによる段階的な進歩を重視している。また、共同創業者のシェーン・レッグ氏が率いるAGI安全評議会を設置し、ApolloやRedwood Researchなど非営利のAI安全研究団体とも連携している。
こうした各社の異なる戦略は、AI業界における能力開発の加速と安全策の実装という根本的な緊張関係を反映している。AIシステムが様々な分野で人間レベルの性能に近づく中、透明性の高いベンチマークに基づく業界横断的な安全コンソーシアムの必要性が一層明確になりつつある。
専門家は、協調的な安全基準がなければ、先進的なモデルの迅速な導入を巡る競争圧力が安全策の妥協につながる可能性があると指摘する。Anthropicのジャック・クラーク氏も「リスクを特定・軽減し、責任あるAI開発を推進するためのより強力な仕組みが必要だ」と述べ、強力なAIシステムが広く展開される前の対策強化を訴えている。