Os sistemas de inteligência artificial, como o ChatGPT, tornaram-se notavelmente competentes a gerar respostas plausíveis para praticamente qualquer questão. No entanto, estes sistemas muitas vezes não reconhecem as suas limitações nem expressam incerteza quando seria apropriado—uma lacuna que representa riscos significativos à medida que a adoção da IA acelera em setores críticos.
A Themis AI, fundada em 2021 pelos investigadores do MIT Daniela Rus, Alexander Amini e Elaheh Ahmadi, desenvolveu uma solução para este problema. A sua plataforma Capsa pode ser integrada em qualquer modelo de aprendizagem automática para detetar e corrigir resultados pouco fiáveis em segundos.
"Todos já vimos exemplos de IA a alucinar ou a cometer erros", explica Amini, cofundador da Themis AI. "À medida que a IA é implementada de forma mais ampla, esses erros podem ter consequências devastadoras. A Themis torna possível que qualquer IA antecipe e preveja as suas próprias falhas, antes de acontecerem."
A tecnologia funciona ao modificar os modelos de IA para reconhecerem padrões no processamento de dados que indicam ambiguidade, incompletude ou enviesamento. Isto permite que os modelos quantifiquem a sua própria incerteza em cada resultado e sinalizem potenciais erros. A implementação é surpreendentemente simples—bastam algumas linhas de código para transformar um modelo existente numa variante consciente da sua incerteza.
A Capsa já está a ser aplicada em vários setores. Empresas farmacêuticas utilizam-na para melhorar modelos de IA que identificam candidatos a medicamentos e preveem o desempenho de ensaios clínicos. Desenvolvedores de grandes modelos de linguagem estão a implementá-la para permitir respostas a perguntas mais fiáveis e sinalizar resultados duvidosos. A Themis AI está também em conversações com empresas de semicondutores para potenciar soluções de IA em ambientes de computação de ponta.
"Ao quantificar automaticamente a incerteza aleatória e epistémica, a Capsa é uma tecnologia transformadora que permite detetar erros dos modelos antes que se tornem falhas dispendiosas", afirma Rus, que também dirige o Laboratório de Ciência da Computação e Inteligência Artificial do MIT. "Expande as utilizações dos sistemas de IA em aplicações onde a segurança e a fiabilidade são fundamentais, como a robótica e a condução autónoma."
À medida que a IA continua a evoluir e a penetrar em setores críticos, soluções como a Capsa serão essenciais para construir sistemas mais fiáveis que reconhecem as suas limitações—um passo crucial para uma implementação responsável da IA em ambientes de alto risco.