イタリアの独占禁止規制当局AGCMは月曜日、中国の人工知能スタートアップDeepSeekに対する正式な調査を開始したと発表した。これは、AIによるハルシネーション（虚偽情報生成）問題に対する重要な規制措置となる。
調査の中心は、DeepSeekがAIハルシネーションのリスクについて、ユーザーに「十分に明確かつ即時的、理解しやすい」警告を提供しなかったという疑いである。AGCMはハルシネーションを「ユーザーが入力した内容に対し、AIモデルが不正確、誤解を招く、もしくは架空の情報を含む出力を生成する状況」と定義している。
この調査は、AIハルシネーションを直接的に対象とした初の主要な規制措置の一つであり、生成AIシステムの普及に伴い懸念が高まっている。世界各国の規制当局がAIの透明性や誤情報リスクに対処する枠組みを構築する中で、今回の調査はグローバルな注目を集めている。
DeepSeekは2023年末に中国のヘッジファンドマネージャー梁文峰（リャン・ウェンフォン）氏によって設立され、急速に世界のAI業界で存在感を高めている。同社は今年初め、主要な欧米企業と同等の性能を持ちながらコストを大幅に抑えたAIモデルを発表し、テック業界に市場の動揺をもたらしたことで国際的な注目を集めた。
DeepSeekがイタリア当局と対立するのは今回が初めてではない。2025年2月、イタリアのデータ保護当局は、DeepSeekがプライバシーポリシーに関する懸念に対応しなかったとして、同社のチャットボットへのアクセスを遮断するよう命じた。当時、DeepSeekはイタリアで事業を展開しておらず、欧州の規制は自社には適用されないと主張していたとされる。
2025年にEUのAI法（AI Act）が段階的に施行され、汎用AIシステムに対する透明性要件が8月2日に発効する中、本件は欧州規制当局が新たな法規制の枠組み下でAIハルシネーション問題にどう対応するかの重要な前例となる可能性がある。