In un'epoca in cui i sistemi di intelligenza artificiale prendono decisioni sempre più critiche in diversi settori, la capacità di riconoscere l'incertezza sta diventando essenziale. Il 3 giugno 2025, Themis AI, spin-off del MIT, ha presentato una tecnologia rivoluzionaria che insegna ai modelli di AI a riconoscere ciò che non sanno—una capacità che potrebbe trasformare l'affidabilità dell'intelligenza artificiale nelle applicazioni ad alto rischio.
La piattaforma Capsa di Themis AI funziona aggiornando in modo mirato l'architettura di qualsiasi modello di machine learning per abilitare la quantificazione dell'incertezza. "L'idea è prendere un modello, avvolgerlo in Capsa, identificare le incertezze e le modalità di fallimento del modello, e poi migliorarlo", spiega Daniela Rus, co-fondatrice di Themis AI e professoressa al MIT, nonché direttrice del Computer Science and Artificial Intelligence Laboratory (CSAIL) del MIT.
Fondata nel 2021 da Rus insieme ad Alexander Amini (MIT '17, SM '18, PhD '22) ed Elaheh Ahmadi (MIT '20, MEng '21), Themis AI si basa su oltre cinque anni di ricerca fondamentale. La missione dell'azienda affronta un problema di fondo: i sistemi di AI come i grandi modelli linguistici spesso forniscono risposte plausibili senza rivelare le proprie lacune di conoscenza o aree di incertezza.
Le implicazioni per i settori ad alto rischio sono significative. Nel campo dei veicoli autonomi, la ricerca mostra che l'integrazione degli algoritmi di stima dell'incertezza di Themis AI ha portato a una riduzione di 16 volte delle collisioni e a una diminuzione del 93% delle richieste automatiche di intervento umano. Per le applicazioni in ambito sanitario e farmaceutico, Capsa aiuta a distinguere quando le previsioni dell'AI sono supportate da evidenze rispetto a semplici speculazioni, potenzialmente accelerando la scoperta di nuovi farmaci e riducendo i rischi.
"Vogliamo abilitare l'AI nelle applicazioni più critiche di ogni settore", afferma Amini. "Abbiamo tutti visto esempi di AI che allucina o commette errori. Man mano che l'AI viene distribuita su larga scala, questi errori potrebbero avere conseguenze devastanti. Themis rende possibile che qualsiasi AI possa prevedere e anticipare i propri fallimenti, prima che si verifichino."
La tecnologia è già in fase di implementazione in diversi settori. Molte aziende che sviluppano grandi modelli linguistici stanno utilizzando Capsa per consentire ai loro modelli di quantificare l'incertezza di ogni output, permettendo risposte più affidabili e segnalando risultati inaffidabili. Themis AI sta inoltre collaborando con aziende di semiconduttori per migliorare i modelli di AI più piccoli che operano su telefoni o sistemi embedded, ottenendo sia bassa latenza che alta qualità.