AI 시스템이 다양한 산업에서 점점 더 중요한 결정을 내리는 시대에, 불확실성을 인식하는 능력은 필수적 요소로 떠오르고 있다. 2025년 6월 3일, MIT에서 분사한 Themis AI는 AI 모델이 자신이 모르는 것을 인정하도록 가르치는 혁신적 기술을 공개했다. 이 기능은 고위험 분야에서 AI의 신뢰성을 근본적으로 변화시킬 수 있는 잠재력을 지닌다.
Themis AI의 Capsa 플랫폼은 어떤 머신러닝 모델이든 아키텍처를 정밀하게 업데이트하여 불확실성 정량화 기능을 추가한다. Themis AI 공동 창업자이자 MIT 컴퓨터과학 및 인공지능연구소(CSAIL) 소장인 다니엘라 루스 교수는 “모델을 Capsa로 감싸 불확실성과 실패 모드를 식별하고, 그 후 모델을 강화하는 것이 핵심”이라고 설명한다.
2021년 루스 교수와 알렉산더 아미니(MIT '17, SM '18, PhD '22), 엘라헤 아흐마디(MIT '20, MEng '21)가 공동 설립한 Themis AI는 5년 이상의 기초 연구를 바탕으로 한다. 이 회사의 미션은 근본적인 문제를 해결하는 데 있다. 대형 언어 모델 등 AI 시스템이 지식의 공백이나 불확실한 영역을 드러내지 않은 채 그럴듯한 답변을 내놓는 현상이다.
이 기술의 고위험 분야 적용 효과는 매우 크다. 자율주행차 연구에서는 Themis AI의 불확실성 추정 알고리즘을 통합했을 때 충돌이 16배 감소하고, 인간 개입 요청이 93% 줄어드는 결과가 나타났다. 의료 및 제약 분야에서는 Capsa가 AI 예측이 근거에 기반한 것인지 단순 추측인지 판별해, 신약 개발을 가속화하면서도 위험을 줄일 수 있다.
아미니는 “모든 산업의 가장 중요한 분야에서 AI가 활용될 수 있도록 하고 싶다”며 “AI가 환각 현상이나 실수를 저지르는 사례를 모두가 목격했다. AI가 더 넓게 배포될수록 이런 실수는 치명적인 결과로 이어질 수 있다. Themis는 어떤 AI든 스스로 실패를 예측하고 경고할 수 있도록 만든다”고 강조했다.
이 기술은 이미 다양한 산업에서 도입되고 있다. 많은 대형 언어 모델 개발 기업들이 Capsa를 활용해 각 출력별 불확실성을 정량화하고, 신뢰할 수 없는 출력을 표시해 보다 신뢰도 높은 질의응답을 제공하고 있다. Themis AI는 반도체 기업들과도 협력해, 스마트폰이나 임베디드 시스템에서 구동되는 소형 AI 모델의 지연 시간을 낮추면서도 품질을 높이고 있다.