À l’ère où les systèmes d’intelligence artificielle prennent de plus en plus de décisions cruciales dans de nombreux secteurs, la capacité à reconnaître l’incertitude devient essentielle. Le 3 juin 2025, Themis AI, une spin-off du MIT, a dévoilé une technologie révolutionnaire qui apprend aux modèles d’IA à admettre ce qu’ils ignorent — une capacité susceptible de transformer la fiabilité de l’IA dans les applications à enjeux élevés.
La plateforme Capsa de Themis AI fonctionne en mettant à jour de manière ciblée l’architecture de n’importe quel modèle d’apprentissage automatique afin de permettre la quantification de l’incertitude. « L’idée est de prendre un modèle, de l’envelopper avec Capsa, d’identifier ses incertitudes et modes d’échec, puis d’améliorer le modèle », explique Daniela Rus, cofondatrice de Themis AI et professeure au MIT, qui dirige également le laboratoire d’informatique et d’intelligence artificielle (CSAIL) du MIT.
Fondée en 2021 par Rus, Alexander Amini (MIT '17, SM '18, PhD '22) et Elaheh Ahmadi (MIT '20, MEng '21), Themis AI s’appuie sur plus de cinq ans de recherche fondamentale. La mission de l’entreprise s’attaque à un problème crucial : les systèmes d’IA, comme les grands modèles de langage, fournissent souvent des réponses plausibles sans révéler leurs lacunes ou zones d’incertitude.
Les implications pour les domaines à haut risque sont majeures. Dans les véhicules autonomes, des recherches montrent que l’intégration des algorithmes d’estimation d’incertitude de Themis AI a permis de réduire par 16 le nombre de collisions et de diminuer de 93 % les demandes automatiques d’intervention humaine. Pour les applications en santé et en pharmacie, Capsa aide à distinguer les prédictions de l’IA fondées sur des preuves de celles qui relèvent de la simple spéculation, accélérant potentiellement la découverte de médicaments tout en réduisant les risques.
« Nous voulons permettre à l’IA d’être utilisée dans les applications les plus critiques de chaque secteur », déclare Amini. « Nous avons tous vu des exemples d’IA qui hallucinent ou commettent des erreurs. À mesure que l’IA se déploie plus largement, ces erreurs pourraient avoir des conséquences dévastatrices. Themis rend possible le fait que toute IA puisse anticiper et prédire ses propres échecs, avant qu’ils ne surviennent. »
La technologie est déjà mise en œuvre dans divers secteurs. De nombreuses entreprises développant de grands modèles de langage utilisent Capsa pour permettre à leurs modèles de quantifier l’incertitude pour chaque sortie, offrant ainsi des réponses plus fiables et signalant les résultats douteux. Themis AI collabore également avec des fabricants de semi-conducteurs pour améliorer les petits modèles d’IA embarqués sur téléphones ou systèmes intégrés, alliant faible latence et haute qualité.