Em uma era em que sistemas de IA tomam decisões cada vez mais críticas em diversos setores, a capacidade de reconhecer incertezas torna-se essencial. No dia 3 de junho de 2025, a Themis AI, spin-off do MIT, revelou uma tecnologia inovadora que ensina modelos de IA a reconhecerem o que não sabem — uma habilidade que pode transformar a confiabilidade da IA em aplicações de alto risco.
A plataforma Capsa da Themis AI atua atualizando cirurgicamente a arquitetura de qualquer modelo de aprendizado de máquina para permitir a quantificação de incertezas. "A ideia é pegar um modelo, envolvê-lo com o Capsa, identificar as incertezas e modos de falha do modelo e, em seguida, aprimorá-lo", explica Daniela Rus, cofundadora da Themis AI e professora do MIT, que também dirige o Laboratório de Ciência da Computação e Inteligência Artificial (CSAIL) do MIT.
Fundada em 2021 por Rus, Alexander Amini (MIT '17, SM '18, PhD '22) e Elaheh Ahmadi (MIT '20, MEng '21), a Themis AI se baseia em mais de cinco anos de pesquisa fundamental. A missão da empresa aborda um problema central: sistemas de IA, como grandes modelos de linguagem, frequentemente fornecem respostas plausíveis sem revelar lacunas em seu conhecimento ou áreas de incerteza.
As implicações para domínios de alto risco são significativas. Em veículos autônomos, pesquisas mostram que a integração dos algoritmos de estimativa de incerteza da Themis AI resultou em 16 vezes menos colisões e uma redução de 93% nos pedidos automáticos de intervenção humana. Para aplicações em saúde e farmacêutica, o Capsa ajuda a identificar quando as previsões da IA são respaldadas por evidências ou são mera especulação, potencialmente acelerando a descoberta de medicamentos e reduzindo riscos.
"Queremos habilitar a IA nas aplicações de maior risco de todos os setores", afirma Amini. "Todos já vimos exemplos de IA alucinando ou cometendo erros. À medida que a IA é implantada de forma mais ampla, esses erros podem ter consequências devastadoras. A Themis torna possível que qualquer IA antecipe e preveja suas próprias falhas antes que aconteçam."
A tecnologia já está sendo implementada em diversos setores. Muitas empresas que desenvolvem grandes modelos de linguagem estão utilizando o Capsa para permitir que seus modelos quantifiquem a incerteza de cada resposta, proporcionando respostas mais confiáveis e sinalizando saídas duvidosas. A Themis AI também está colaborando com empresas de semicondutores para aprimorar modelos de IA menores que rodam em celulares ou sistemas embarcados, alcançando baixa latência e alta qualidade.