Sistemas de inteligência artificial como o ChatGPT tornaram-se notavelmente hábeis em gerar respostas plausíveis para praticamente qualquer pergunta. No entanto, esses sistemas frequentemente falham em reconhecer suas limitações ou expressar incerteza quando apropriado — uma deficiência que representa riscos significativos à medida que a adoção da IA se acelera em setores críticos.
A Themis AI, fundada em 2021 pelos pesquisadores do MIT Daniela Rus, Alexander Amini e Elaheh Ahmadi, desenvolveu uma solução para esse problema. Sua plataforma Capsa pode ser integrada a qualquer modelo de aprendizado de máquina para detectar e corrigir saídas não confiáveis em questão de segundos.
"Todos nós já vimos exemplos de IA alucinando ou cometendo erros", explica Amini, cofundador da Themis AI. "À medida que a IA é implantada de forma mais ampla, esses erros podem levar a consequências devastadoras. A Themis torna possível que qualquer IA antecipe e preveja suas próprias falhas antes que aconteçam."
A tecnologia funciona modificando modelos de IA para reconhecer padrões em seu processamento de dados que indicam ambiguidade, incompletude ou viés. Isso permite que os modelos quantifiquem sua própria incerteza para cada saída e sinalizem possíveis erros. A implementação é surpreendentemente simples — exigindo apenas algumas linhas de código para transformar um modelo existente em uma variante consciente da incerteza.
O Capsa já está sendo aplicado em diversos setores. Empresas farmacêuticas o utilizam para aprimorar modelos de IA que identificam candidatos a medicamentos e preveem o desempenho de testes clínicos. Desenvolvedores de grandes modelos de linguagem estão implementando a solução para permitir respostas mais confiáveis e sinalizar saídas duvidosas. A Themis AI também está em negociações com empresas de semicondutores para aprimorar soluções de IA em ambientes de computação de borda.
"Ao quantificar automaticamente a incerteza aleatória e epistêmica, o Capsa é uma tecnologia transformadora que permite que erros de modelo sejam identificados antes que se tornem falhas custosas", afirma Rus, que também atua como diretora do Laboratório de Ciência da Computação e Inteligência Artificial do MIT. "Isso amplia o uso de sistemas de IA em aplicações onde segurança e confiabilidade são essenciais, como robótica e direção autônoma."
À medida que a IA continua a evoluir e a permear setores críticos, soluções como o Capsa serão fundamentais para construir sistemas mais confiáveis, que reconheçam suas limitações — um passo crucial para a implantação responsável da IA em ambientes de alto risco.