MITの研究者チームは、大規模言語モデル（LLM）がなぜバイアスを示すのか、その理由を解明し、より信頼性の高いAIシステムの実現に向けた大きな前進を果たしました。
研究チームが明らかにしたのは、LLMが「位置バイアス」に悩まされているという事実です。これは、モデルが文書の冒頭や末尾の情報を過度に重視し、中間部分の内容を軽視する傾向を指します。このバイアスは実用面でも影響があり、例えば弁護士がLLMを活用したアシスタントで30ページの文書を検索する場合、該当箇所が最初や最後のページにある方が見つけやすくなってしまいます。
今回の発見が画期的なのは、研究者らがその根本原因をモデルアーキテクチャ自体の中に特定した点です。MIT大学院生で本研究の筆頭著者であるXinyi Wu氏は「これらのモデルはブラックボックスであり、LLMの利用者は位置バイアスがモデルの一貫性に影響を与えていることに気づかないかもしれません」と説明しています。
チームは、LLMの機械学習アーキテクチャ内で情報がどのように流れるかを分析するため、グラフベースの理論的枠組みを構築しました。その結果、特に因果マスキングやアテンション機構といった設計上の選択が、訓練データにバイアスが存在しない場合でも、入力の冒頭部分に対する本質的なバイアスをモデルにもたらしていることが判明しました。
Wu氏は「文の最初や最後の単語が重要である場合も多いですが、LLMが自然言語生成以外のタスク、例えばランキングや情報検索に使われる場合、こうしたバイアスは非常に有害になり得ます」と指摘します。
この研究は、LLMがさまざまな形のバイアスを内包していることを示す他の最新研究とも補完し合うものです。プリンストン大学の別の研究では、明示的にバイアスを排除したLLMであっても、人間が無意識に偏見を持つのと同様に、暗黙のバイアスが形成されることが明らかになりました。心理学に着想を得た指標を用いて、8つの価値整合型モデルにおいて、人種・性別・宗教・健康などのカテゴリーで広範なステレオタイプバイアスが検出されています。
MITの成果について、スタンフォード大学のAmin Saberi教授は「トランスフォーマーモデルの中核であるアテンション機構に対し、理論的な視点を与える稀有な研究だ」と評価。数学的な明確さと実用的な知見の両面をもたらすとしています。今後、LLMが重要なアプリケーションにますます組み込まれていく中で、こうした本質的なバイアスを理解し対処することが、公平で信頼性の高いAI技術の開発には不可欠となるでしょう。