À une époque où les systèmes d’IA prennent de plus en plus de décisions cruciales dans divers secteurs, la capacité à reconnaître l’incertitude devient essentielle. Le 3 juin 2025, Themis AI, une entreprise dérivée du MIT, a dévoilé une technologie révolutionnaire qui apprend aux modèles d’IA à admettre ce qu’ils ne savent pas — une capacité qui pourrait transformer la fiabilité de l’IA dans les applications à enjeux élevés.
La plateforme Capsa de Themis AI met à jour de façon chirurgicale l’architecture de n’importe quel modèle d’apprentissage automatique afin de permettre la quantification de l’incertitude. « L’idée est de prendre un modèle, de l’envelopper avec Capsa, d’identifier les incertitudes et modes d’échec du modèle, puis de l’améliorer », explique la cofondatrice de Themis AI et professeure au MIT, Daniela Rus, qui dirige également le laboratoire d’informatique et d’intelligence artificielle (CSAIL) du MIT.
Fondée en 2021 par Rus, Alexander Amini (MIT ’17, SM ’18, PhD ’22) et Elaheh Ahmadi (MIT ’20, MEng ’21), Themis AI s’appuie sur plus de cinq ans de recherche fondamentale. La mission de l’entreprise vise à résoudre un problème de fond : les systèmes d’IA, comme les grands modèles de langage, fournissent souvent des réponses plausibles sans révéler leurs zones d’ombre ou d’incertitude.
Les retombées pour les domaines à haut risque sont majeures. Dans le secteur des véhicules autonomes, la recherche démontre que l’intégration des algorithmes d’estimation de l’incertitude de Themis AI a permis de réduire de seize fois le nombre de collisions et de diminuer de 93 % les demandes automatiques d’intervention humaine. Pour les applications en santé et en pharmaceutique, Capsa aide à distinguer les prédictions de l’IA fondées sur des preuves de celles qui relèvent de la simple spéculation, ce qui pourrait accélérer la découverte de médicaments tout en réduisant les risques.
« Nous voulons permettre à l’IA d’être utilisée dans les applications les plus critiques de chaque industrie », affirme Amini. « Nous avons tous vu des exemples d’IA qui hallucine ou fait des erreurs. À mesure que l’IA sera déployée plus largement, ces erreurs pourraient avoir des conséquences dévastatrices. Themis rend possible qu’une IA puisse anticiper et prédire ses propres échecs, avant qu’ils ne surviennent. »
La technologie est déjà implantée dans plusieurs secteurs. De nombreuses entreprises qui développent de grands modèles de langage utilisent Capsa pour permettre à leurs modèles de quantifier l’incertitude pour chaque résultat, ce qui rend les réponses plus fiables et permet de signaler les sorties douteuses. Themis AI collabore aussi avec des entreprises de semi-conducteurs pour améliorer les modèles d’IA plus compacts qui fonctionnent sur les téléphones ou les systèmes embarqués, atteignant à la fois une faible latence et une grande qualité.