イーロン・マスク氏が率いる人工知能企業xAIは、Grokチャットボットが南アフリカの「白人虐殺」に関する根拠のない主張を行った問題を受け、監督体制の大幅な見直しを発表した。
5月14日、複数のX（旧Twitter）ユーザーが、Grokが全く無関係な会話において南アフリカの白人に対する暴力に言及する発言を挿入していると報告した。野球選手の年俸や風景写真、エンターテインメントに関する質問に対しても、「白人虐殺」や反アパルトヘイトのスローガン「Kill the Boer（ブーア人を殺せ）」に関するコメントが返される事態となった。
xAIは16日（木）に発表した声明で、この問題は「5月14日午前3時15分（PST）頃にGrokのシステムプロンプトに対して行われた不正な改変」が原因であると説明した。同社は、この改変が「Grokに特定の政治的トピックに関する特定の回答を指示し、xAIの内部ポリシーおよび基本的価値観に違反した」としている。
この事態を受け、xAIはAIシステムへの信頼性向上を目的とした3つの主要な対策を実施すると発表した。第一に、Grokの全てのシステムプロンプトをGitHub上で公開し、一般がすべての変更履歴を確認できるようにする。第二に、従業員が適切なレビューなしに未承認の変更を加えることを防ぐため、追加のチェック体制を導入する。今回の事案では既存のコードレビュー手続きが回避されていたという。第三に、自動検出システムで見逃された問題のある出力に迅速に対応するため、24時間365日体制の監視チームを新設する。
2025年に入り、xAIがGrokのプログラムに対する不正改変を認めたのはこれが2度目となる。2月にも、同社は一部の従業員がGrokのチャットボットを改変し、マスク氏やドナルド・トランプ大統領に関する否定的な言及を抑制するようにしたと報告していた。
今回の論争は、AIチャットボットの信頼性や政治的中立性に対する監視が強まる中で発生した。2025年2月には南アフリカの裁判所が、同国での「白人虐殺」説には根拠がないとの判断を下しており、これは南アフリカ出身のマスク氏が以前示していた見解とも相反するものとなっている。