Într-o eră în care sistemele AI iau tot mai des decizii critice în diverse industrii, capacitatea de a recunoaște incertitudinea devine esențială. Pe 3 iunie 2025, Themis AI, un spin-off MIT, a prezentat o tehnologie revoluționară care învață modelele AI să recunoască ceea ce nu știu — o abilitate ce ar putea transforma fiabilitatea AI în aplicații cu miză ridicată.
Platforma Capsa dezvoltată de Themis AI funcționează prin actualizarea precisă a arhitecturii oricărui model de învățare automată, permițând cuantificarea incertitudinii. „Ideea este să preiei un model, să-l învelești în Capsa, să identifici incertitudinile și modurile de eșec ale modelului, apoi să-l îmbunătățești”, explică Daniela Rus, cofondatoare Themis AI și profesor MIT, care conduce și Laboratorul de Informatică și Inteligență Artificială (CSAIL) al MIT.
Fondată în 2021 de Rus împreună cu Alexander Amini (MIT '17, SM '18, PhD '22) și Elaheh Ahmadi (MIT '20, MEng '21), Themis AI se bazează pe peste cinci ani de cercetare fundamentală. Misiunea companiei abordează o problemă esențială: sistemele AI, precum modelele lingvistice de mari dimensiuni, oferă adesea răspunsuri care par plauzibile fără a evidenția lacunele de cunoaștere sau zonele de incertitudine.
Implicațiile pentru domeniile cu risc ridicat sunt semnificative. În vehiculele autonome, cercetările arată că integrarea algoritmilor de estimare a incertitudinii de la Themis AI a dus la de 16 ori mai puține coliziuni și o reducere cu 93% a solicitărilor automate de intervenție umană. Pentru aplicațiile din sănătate și industria farmaceutică, Capsa ajută la identificarea momentelor în care predicțiile AI sunt susținute de dovezi, spre deosebire de simple speculații, accelerând potențial descoperirea de medicamente și reducând riscurile.
„Ne dorim să permitem AI să fie folosită în cele mai importante aplicații din fiecare industrie”, spune Amini. „Cu toții am văzut exemple de AI care halucinează sau face greșeli. Pe măsură ce AI-ul este implementat tot mai larg, aceste erori ar putea avea consecințe devastatoare. Themis face posibil ca orice AI să-și poată anticipa și prezice propriile eșecuri, înainte ca acestea să se producă.”
Tehnologia este deja implementată în diverse industrii. Multe companii care dezvoltă modele lingvistice de mari dimensiuni folosesc Capsa pentru a permite modelelor să cuantifice incertitudinea pentru fiecare răspuns, asigurând astfel răspunsuri mai fiabile și semnalând ieșirile nesigure. Themis AI colaborează, de asemenea, cu companii din domeniul semiconductorilor pentru a îmbunătăți modelele AI mai mici care rulează pe telefoane sau sisteme încorporate, obținând atât latență redusă, cât și calitate ridicată.