Sa panahon ngayon kung saan ang mga AI system ay lalong gumagawa ng mahahalagang desisyon sa iba't ibang industriya, nagiging mahalaga ang kakayahang kilalanin ang kawalang-katiyakan. Noong Hunyo 3, 2025, inilunsad ng Themis AI, isang spinout mula sa MIT, ang isang makabagong teknolohiya na nagtuturo sa mga AI model na aminin kung ano ang hindi nila alam—isang kakayahan na maaaring magbago sa pagiging maaasahan ng AI sa mga aplikasyon na may mataas na panganib.
Gumagana ang Capsa platform ng Themis AI sa pamamagitan ng masusing pag-update sa arkitektura ng anumang machine learning model upang maisama ang kakayahang masukat ang kawalang-katiyakan. "Ang ideya ay kunin ang isang model, balutin ito ng Capsa, tukuyin ang mga kawalang-katiyakan at mga posibleng pagkabigo ng model, at pagkatapos ay pagandahin ito," paliwanag ni Themis AI co-founder at MIT Propesor Daniela Rus, na siya ring direktor ng Computer Science and Artificial Intelligence Laboratory (CSAIL) ng MIT.
Itinatag noong 2021 nina Rus, Alexander Amini (MIT '17, SM '18, PhD '22), at Elaheh Ahmadi (MIT '20, MEng '21), ang Themis AI ay nakabatay sa mahigit limang taon ng pundamental na pananaliksik. Ang misyon ng kumpanya ay tugunan ang isang pangunahing problema: ang mga AI system tulad ng malalaking language model ay madalas magbigay ng sagot na tila kapani-paniwala ngunit hindi ipinapakita ang mga puwang sa kanilang kaalaman o mga lugar ng kawalang-katiyakan.
Malaki ang epekto nito sa mga larangang may mataas na panganib. Sa mga autonomous na sasakyan, ipinapakita ng pananaliksik na ang pagsasama ng mga algorithm ng Themis AI para sa pagtatantiya ng kawalang-katiyakan ay nagresulta sa 16 na beses na mas kaunting banggaan at 93% na pagbaba ng automated na kahilingan para sa interbensyon ng tao. Para sa healthcare at pharmaceutical na aplikasyon, tumutulong ang Capsa na matukoy kung ang mga prediksyon ng AI ay suportado ng ebidensya o haka-haka lamang, na posibleng mapabilis ang pagtuklas ng gamot habang binabawasan ang mga panganib.
"Nais naming bigyang-daan ang AI sa pinakamahahalagang aplikasyon ng bawat industriya," sabi ni Amini. "Lahat tayo ay nakakita ng mga halimbawa ng AI na 'nagha-hallucinate' o nagkakamali. Habang mas malawak itong ginagamit, maaaring magdulot ng malalaking pinsala ang mga pagkakamaling iyon. Ginagawang posible ng Themis na ang anumang AI ay mahulaan at matukoy ang sarili nitong mga pagkabigo, bago pa ito mangyari."
Naipapatupad na ang teknolohiyang ito sa iba't ibang industriya. Maraming kumpanyang gumagawa ng malalaking language model ang gumagamit ng Capsa upang masukat ng kanilang mga model ang kawalang-katiyakan sa bawat output, na nagreresulta sa mas mapagkakatiwalaang pagsagot sa mga tanong at pag-flag ng hindi maaasahang output. Nakikipagtulungan din ang Themis AI sa mga semiconductor company upang pagandahin ang mas maliliit na AI model na tumatakbo sa mga telepono o embedded system, na nakakamit ang mababang latency at mataas na kalidad.