Los sistemas de inteligencia artificial como ChatGPT se han vuelto notablemente hábiles a la hora de generar respuestas plausibles para prácticamente cualquier consulta. Sin embargo, estos sistemas a menudo no reconocen sus limitaciones ni expresan incertidumbre cuando sería apropiado, una carencia que supone riesgos significativos a medida que la adopción de la IA se acelera en sectores críticos.
Themis AI, fundada en 2021 por los investigadores del MIT Daniela Rus, Alexander Amini y Elaheh Ahmadi, ha desarrollado una solución a este problema. Su plataforma Capsa puede integrarse con cualquier modelo de aprendizaje automático para detectar y corregir resultados poco fiables en cuestión de segundos.
"Todos hemos visto ejemplos de IA que alucina o comete errores", explica Amini, cofundador de Themis AI. "A medida que la IA se despliega de forma más generalizada, esos errores podrían tener consecuencias devastadoras. Themis hace posible que cualquier IA pueda prever y predecir sus propios fallos antes de que ocurran".
La tecnología funciona modificando los modelos de IA para que reconozcan patrones en su procesamiento de datos que indiquen ambigüedad, falta de información o sesgo. Esto permite que los modelos cuantifiquen su propia incertidumbre para cada resultado y señalen posibles errores. La implementación es sorprendentemente sencilla: basta con unas pocas líneas de código para transformar un modelo existente en una variante consciente de su incertidumbre.
Capsa ya se está aplicando en múltiples sectores. Empresas farmacéuticas la utilizan para mejorar modelos de IA que identifican candidatos a fármacos y predicen el rendimiento en ensayos clínicos. Desarrolladores de grandes modelos de lenguaje la están implementando para ofrecer respuestas a preguntas más fiables y señalar resultados poco confiables. Themis AI también mantiene conversaciones con empresas de semiconductores para mejorar soluciones de IA en entornos de computación en el borde.
"Al cuantificar automáticamente la incertidumbre aleatoria y epistémica, Capsa es una tecnología transformadora que permite detectar errores del modelo antes de que se conviertan en fallos costosos", afirma Rus, que también dirige el Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT. "Amplía los usos de los sistemas de IA en aplicaciones donde la seguridad y la fiabilidad son clave, como la robótica y la conducción autónoma".
A medida que la IA sigue evolucionando y penetrando en sectores críticos, soluciones como Capsa serán fundamentales para construir sistemas más fiables que reconozcan sus limitaciones, un paso crucial hacia el despliegue responsable de la IA en entornos de alto riesgo.