Ang mga sistema ng artificial intelligence gaya ng ChatGPT ay naging napakahusay sa pagbibigay ng mga kapani-paniwalang sagot sa halos anumang tanong. Gayunpaman, madalas na hindi kinikilala ng mga sistemang ito ang kanilang mga limitasyon o nagpapahayag ng kawalang-katiyakan kapag nararapat—isang kakulangan na nagdudulot ng malaking panganib habang bumibilis ang paggamit ng AI sa mga kritikal na sektor.
Ang Themis AI, na itinatag noong 2021 ng mga mananaliksik mula sa MIT na sina Daniela Rus, Alexander Amini, at Elaheh Ahmadi, ay nakabuo ng solusyon sa problemang ito. Ang kanilang platapormang Capsa ay maaaring i-integrate sa anumang machine learning model upang matukoy at maitama ang mga hindi mapagkakatiwalaang output sa loob lamang ng ilang segundo.
"Lahat tayo ay nakakita na ng mga halimbawa ng AI na nagkakamali o nagha-hallucinate," paliwanag ni Amini, co-founder ng Themis AI. "Habang mas malawak na ginagamit ang AI, ang mga pagkakamaling ito ay maaaring magdulot ng malalaking pinsala. Ginagawang posible ng Themis na ang anumang AI ay maagang matukoy at mahulaan ang sarili nitong mga pagkabigo, bago pa ito mangyari."
Gumagana ang teknolohiya sa pamamagitan ng pagbabago sa mga AI model upang matukoy ang mga pattern sa kanilang pagproseso ng datos na nagpapahiwatig ng kalabuan, kakulangan, o pagkiling. Dahil dito, nagagawa ng mga modelo na sukatin ang sarili nilang kawalang-katiyakan sa bawat output at i-flag ang mga posibleng pagkakamali. Napakadali ng implementasyon—kailangan lamang ng ilang linya ng code upang gawing uncertainty-aware ang isang umiiral na modelo.
Ginagamit na ang Capsa sa iba't ibang industriya. Ang mga kumpanyang pharmaceutical ay gumagamit nito upang pagandahin ang mga AI model na tumutukoy ng mga posibleng gamot at nagpo-proyekto ng resulta ng clinical trials. Ang mga developer ng malalaking language model ay nag-iintegrate nito upang gawing mas mapagkakatiwalaan ang pagsagot ng mga tanong at ma-flag ang hindi tiyak na output. Nakikipag-usap din ang Themis AI sa mga semiconductor companies upang mapahusay ang AI solutions para sa edge computing environments.
"Sa pamamagitan ng awtomatikong pagsukat ng aleatoric at epistemic uncertainty, ang Capsa ay isang makabagong teknolohiya na nagpapahintulot na mahuli ang mga pagkakamali ng modelo bago ito magdulot ng malalaking problema," ayon kay Rus, na siya ring direktor ng MIT Computer Science and Artificial Intelligence Laboratory. "Pinalalawak nito ang gamit ng mga AI system sa mga aplikasyon kung saan mahalaga ang kaligtasan at pagiging maaasahan, gaya ng robotics at autonomous driving."
Habang patuloy na umuunlad at lumalaganap ang AI sa mga kritikal na sektor, magiging mahalaga ang mga solusyon tulad ng Capsa sa pagbuo ng mas mapagkakatiwalaang mga sistema na kinikilala ang kanilang mga limitasyon—isang mahalagang hakbang tungo sa responsableng paggamit ng AI sa mga sensitibong kapaligiran.