En una era en la que los sistemas de inteligencia artificial toman decisiones cada vez más críticas en diversas industrias, la capacidad de reconocer la incertidumbre se vuelve esencial. El 3 de junio de 2025, Themis AI, una empresa derivada del MIT, presentó una tecnología revolucionaria que enseña a los modelos de IA a reconocer lo que no saben, una capacidad que podría transformar la confiabilidad de la IA en aplicaciones de alto impacto.
La plataforma Capsa de Themis AI funciona actualizando de manera precisa la arquitectura de cualquier modelo de aprendizaje automático para permitir la cuantificación de la incertidumbre. "La idea es tomar un modelo, envolverlo con Capsa, identificar las incertidumbres y modos de falla del modelo, y luego mejorarlo", explica Daniela Rus, cofundadora de Themis AI y profesora del MIT, quien también dirige el Laboratorio de Ciencias de la Computación e Inteligencia Artificial (CSAIL) del MIT.
Fundada en 2021 por Rus junto con Alexander Amini (MIT '17, SM '18, PhD '22) y Elaheh Ahmadi (MIT '20, MEng '21), Themis AI se basa en más de cinco años de investigación fundamental. La misión de la empresa aborda un problema esencial: los sistemas de IA, como los grandes modelos de lenguaje, suelen ofrecer respuestas que suenan plausibles sin revelar vacíos en su conocimiento o áreas de incertidumbre.
Las implicaciones para sectores de alto riesgo son significativas. En vehículos autónomos, investigaciones muestran que la integración de los algoritmos de estimación de incertidumbre de Themis AI llevó a 16 veces menos colisiones y a una reducción del 93% en solicitudes automáticas de intervención humana. Para aplicaciones en salud y farmacéutica, Capsa ayuda a identificar cuándo las predicciones de la IA están respaldadas por evidencia y cuándo son mera especulación, lo que podría acelerar el descubrimiento de medicamentos y reducir riesgos.
"Queremos habilitar la IA en las aplicaciones más críticas de cada industria", afirma Amini. "Todos hemos visto ejemplos de IA alucinando o cometiendo errores. A medida que la IA se despliega más ampliamente, esos errores podrían tener consecuencias devastadoras. Themis hace posible que cualquier IA pueda prever y predecir sus propios fallos antes de que ocurran".
La tecnología ya se está implementando en diversas industrias. Muchas empresas que desarrollan grandes modelos de lenguaje están utilizando Capsa para permitir que sus modelos cuantifiquen la incertidumbre en cada salida, lo que permite respuestas más confiables y la identificación de resultados poco fiables. Themis AI también colabora con empresas de semiconductores para mejorar modelos de IA más pequeños que funcionan en teléfonos o sistemas embebidos, logrando tanto baja latencia como alta calidad.