En una era en la que los sistemas de IA toman cada vez más decisiones críticas en distintos sectores, la capacidad de reconocer la incertidumbre se está volviendo esencial. El 3 de junio de 2025, Themis AI, una spin-off del MIT, presentó una tecnología revolucionaria que enseña a los modelos de IA a reconocer lo que no saben, una capacidad que podría transformar la fiabilidad de la IA en aplicaciones de alto riesgo.
La plataforma Capsa de Themis AI funciona actualizando quirúrgicamente la arquitectura de cualquier modelo de aprendizaje automático para permitir la cuantificación de la incertidumbre. «La idea es tomar un modelo, envolverlo en Capsa, identificar las incertidumbres y modos de fallo del modelo, y después mejorarlo», explica Daniela Rus, cofundadora de Themis AI y profesora del MIT, que también dirige el Laboratorio de Ciencias de la Computación e Inteligencia Artificial (CSAIL) del MIT.
Fundada en 2021 por Rus junto con Alexander Amini (MIT '17, SM '18, PhD '22) y Elaheh Ahmadi (MIT '20, MEng '21), Themis AI se basa en más de cinco años de investigación fundamental. La misión de la empresa aborda un problema esencial: los sistemas de IA, como los grandes modelos de lenguaje, suelen ofrecer respuestas plausibles sin revelar lagunas en su conocimiento o áreas de incertidumbre.
Las implicaciones para los sectores de alto riesgo son significativas. En vehículos autónomos, las investigaciones muestran que la integración de los algoritmos de estimación de incertidumbre de Themis AI condujo a 16 veces menos colisiones y una reducción del 93% en las solicitudes automáticas de intervención humana. Para aplicaciones en sanidad y farmacéutica, Capsa ayuda a identificar cuándo las predicciones de la IA están respaldadas por evidencia frente a simples especulaciones, lo que podría acelerar el descubrimiento de medicamentos y reducir riesgos.
«Queremos habilitar la IA en las aplicaciones de mayor riesgo de cada industria», afirma Amini. «Todos hemos visto ejemplos de IA alucinando o cometiendo errores. A medida que la IA se despliega de forma más generalizada, esos errores podrían tener consecuencias devastadoras. Themis hace posible que cualquier IA pueda prever y predecir sus propios fallos antes de que ocurran».
La tecnología ya se está implementando en diversos sectores. Muchas empresas que desarrollan grandes modelos de lenguaje están utilizando Capsa para que sus modelos cuantifiquen la incertidumbre en cada salida, permitiendo respuestas más fiables y señalando resultados poco fiables. Themis AI también colabora con empresas de semiconductores para mejorar modelos de IA más pequeños que funcionan en teléfonos o sistemas embebidos, logrando tanto baja latencia como alta calidad.