AIシステムがさまざまな業界で重要な意思決定を担う時代において、不確実性を認識する能力は不可欠となりつつある。2025年6月3日、MIT発のスタートアップThemis AIは、AIモデルが「自分の知らないこと」を認められるようにする画期的な技術を発表した。この能力は、高リスクな応用分野におけるAIの信頼性を大きく変える可能性を秘めている。
Themis AIのCapsaプラットフォームは、あらゆる機械学習モデルのアーキテクチャを部分的に更新し、不確実性の定量化を可能にする。「モデルをCapsaでラップし、不確実性や失敗モードを特定してからモデルを強化するというのが基本的なアイデアです」と、Themis AI共同創業者でありMITコンピュータ科学・人工知能研究所（CSAIL）所長のダニエラ・ラス教授は説明する。
2021年にラス教授、アレクサンダー・アミニ（MIT '17、SM '18、PhD '22）、エラヘ・アフマディ（MIT '20、MEng '21）によって設立されたThemis AIは、5年以上にわたる基礎研究を土台としている。同社のミッションは、AIシステム、特に大規模言語モデルが知識のギャップや不確実な領域を明かさず、もっともらしい回答を返してしまうという根本的な課題に取り組むことだ。
高リスク分野への影響は大きい。自動運転車の研究では、Themis AIの不確実性推定アルゴリズムを組み込むことで、衝突事故が16分の1に減少し、人間による介入要請も93%削減された。医療や製薬分野では、CapsaがAIの予測が根拠に基づくものか単なる推測かを識別し、リスクを抑えつつ創薬を加速させる可能性がある。
「私たちは、あらゆる産業の最も重要な応用分野でAIを活用できるようにしたいと考えています」とアミニ氏は語る。「AIが幻覚を起こしたりミスをしたりする例は誰もが見てきました。AIがより広く使われるようになれば、そのミスが壊滅的な結果を招くこともあり得ます。Themisの技術によって、どんなAIでも自らの失敗を事前に予測できるようになるのです。」
この技術はすでにさまざまな業界で導入が進んでいる。大規模言語モデルを開発する多くの企業がCapsaを活用し、各出力ごとに不確実性を定量化することで、より信頼性の高い質疑応答や不確実な出力のフラグ付けを実現している。Themis AIはまた、スマートフォンや組み込みシステム上で動作する小型AIモデルの品質と低遅延を両立させるため、半導体企業とも協業している。