V ére, keď AI systémy čoraz častejšie prijímajú kľúčové rozhodnutia naprieč odvetviami, sa schopnosť rozpoznať neistotu stáva nevyhnutnou. Dňa 3. júna 2025 spoločnosť Themis AI, spin-off z MIT, predstavila prelomovú technológiu, ktorá učí modely umelej inteligencie priznať, čo nevedia – schopnosť, ktorá by mohla zásadne zmeniť spoľahlivosť AI v kritických aplikáciách.
Platforma Capsa od Themis AI funguje tak, že chirurgicky aktualizuje architektúru akéhokoľvek modelu strojového učenia, aby umožnila kvantifikáciu neistoty. „Myšlienka je vziať model, obaliť ho Capsou, identifikovať jeho neistoty a režimy zlyhania a následne model vylepšiť,“ vysvetľuje spoluzakladateľka Themis AI a profesorka MIT Daniela Rus, ktorá zároveň vedie Laboratórium informatiky a umelej inteligencie (CSAIL) na MIT.
Spoločnosť Themis AI bola založená v roku 2021 Danielou Rus spolu s Alexandrom Aminim (MIT '17, SM '18, PhD '22) a Elaheh Ahmadi (MIT '20, MEng '21) a nadväzuje na viac ako päť rokov základného výskumu. Misia firmy rieši základný problém: AI systémy, ako sú veľké jazykové modely, často poskytujú odpovede, ktoré znejú presvedčivo, no neodhaľujú medzery vo vedomostiach alebo oblasti neistoty.
Dôsledky pre vysoko rizikové oblasti sú významné. Vo vývoji autonómnych vozidiel výskum ukázal, že integrácia algoritmov na odhad neistoty od Themis AI viedla k 16-násobne nižšiemu počtu kolízií a 93 % zníženiu automatizovaných požiadaviek na zásah človeka. V zdravotníctve a farmaceutickom priemysle Capsa pomáha rozlišovať, kedy sú AI predikcie podložené dôkazmi a kedy ide len o špekulácie, čo môže urýchliť objavovanie nových liekov a zároveň znížiť riziká.
„Chceme umožniť využitie AI v najkritickejších aplikáciách každého odvetvia,“ hovorí Amini. „Všetci sme už videli príklady, keď AI halucinuje alebo robí chyby. Ako sa AI nasadzuje čoraz širšie, takéto chyby môžu mať devastačné následky. Themis umožňuje, aby každá AI dokázala predpovedať a identifikovať svoje vlastné zlyhania ešte predtým, než nastanú.“
Technológia sa už implementuje v rôznych odvetviach. Mnohé spoločnosti vyvíjajúce veľké jazykové modely používajú Capsu na to, aby ich modely vedeli kvantifikovať neistotu pri každom výstupe, čo umožňuje spoľahlivejšie odpovedanie na otázky a označovanie nespoľahlivých výstupov. Themis AI spolupracuje aj s polovodičovými firmami na zlepšení menších AI modelov, ktoré bežia na telefónoch alebo zabudovaných systémoch, pričom dosahuje nízku latenciu a vysokú kvalitu.