Numa era em que os sistemas de IA tomam decisões cada vez mais críticas em vários setores, a capacidade de reconhecer a incerteza torna-se essencial. A 3 de junho de 2025, a Themis AI, uma spin-off do MIT, revelou uma tecnologia inovadora que ensina os modelos de IA a admitirem aquilo que não sabem — uma capacidade que pode transformar a fiabilidade da IA em aplicações de alto risco.
A plataforma Capsa da Themis AI atua ao atualizar cirurgicamente a arquitetura de qualquer modelo de aprendizagem automática para permitir a quantificação da incerteza. "A ideia é pegar num modelo, envolvê-lo com a Capsa, identificar as incertezas e modos de falha do modelo e, em seguida, melhorá-lo", explica Daniela Rus, cofundadora da Themis AI e professora no MIT, que também dirige o Laboratório de Ciência da Computação e Inteligência Artificial (CSAIL) do MIT.
Fundada em 2021 por Rus, juntamente com Alexander Amini (MIT '17, SM '18, PhD '22) e Elaheh Ahmadi (MIT '20, MEng '21), a Themis AI baseia-se em mais de cinco anos de investigação fundamental. A missão da empresa aborda um problema essencial: sistemas de IA, como os grandes modelos de linguagem, fornecem frequentemente respostas plausíveis sem revelar lacunas no seu conhecimento ou áreas de incerteza.
As implicações para domínios de alto risco são significativas. Em veículos autónomos, a investigação mostra que a integração dos algoritmos de estimativa de incerteza da Themis AI levou a 16 vezes menos colisões e a uma redução de 93% nos pedidos automáticos de intervenção humana. Para aplicações na saúde e na indústria farmacêutica, a Capsa ajuda a identificar quando as previsões da IA são fundamentadas em evidências ou resultam apenas de especulação, podendo acelerar a descoberta de medicamentos e reduzir riscos.
"Queremos permitir o uso da IA nas aplicações de maior risco em todos os setores", afirma Amini. "Todos já vimos exemplos de IA a alucinar ou a cometer erros. À medida que a IA é implementada de forma mais ampla, esses erros podem ter consequências devastadoras. A Themis torna possível que qualquer IA antecipe e preveja as suas próprias falhas, antes que aconteçam."
A tecnologia já está a ser implementada em vários setores. Muitas empresas que desenvolvem grandes modelos de linguagem estão a utilizar a Capsa para permitir que os seus modelos quantifiquem a incerteza em cada resultado, tornando as respostas a perguntas mais fiáveis e sinalizando saídas pouco fiáveis. A Themis AI está também a colaborar com empresas de semicondutores para melhorar modelos de IA mais pequenos que funcionam em telemóveis ou sistemas embutidos, alcançando simultaneamente baixa latência e elevada qualidade.