U eri u kojoj AI sustavi sve češće donose ključne odluke u raznim industrijama, sposobnost prepoznavanja nesigurnosti postaje neophodna. Dana 3. lipnja 2025., Themis AI, spin-off tvrtka s MIT-a, predstavila je revolucionarnu tehnologiju koja uči AI modele da priznaju ono što ne znaju – sposobnost koja bi mogla transformirati pouzdanost umjetne inteligencije u aplikacijama visokog rizika.
Platforma Capsa tvrtke Themis AI djeluje tako što precizno nadograđuje arhitekturu bilo kojeg modela strojnog učenja kako bi omogućila kvantificiranje nesigurnosti. "Ideja je uzeti model, obaviti ga Capsom, identificirati nesigurnosti i načine na koje može zakazati, a zatim poboljšati model," objašnjava suosnivačica Themis AI-a i profesorica na MIT-u Daniela Rus, koja također vodi MIT-ov Laboratorij za računalne znanosti i umjetnu inteligenciju (CSAIL).
Themis AI osnovali su 2021. godine Rus zajedno s Alexanderom Aminijem (MIT '17, SM '18, PhD '22) i Elaheh Ahmadi (MIT '20, MEng '21), a tvrtka se temelji na više od pet godina temeljnih istraživanja. Misija tvrtke bavi se osnovnim problemom: AI sustavi poput velikih jezičnih modela često daju odgovore koji zvuče uvjerljivo, ali ne otkrivaju gdje im nedostaje znanja ili gdje su nesigurni.
Implikacije za visokorizične domene su značajne. U autonomnim vozilima, istraživanja pokazuju da integracija Themis AI-jevih algoritama za procjenu nesigurnosti dovodi do 16 puta manje sudara i 93% manje automatskih zahtjeva za ljudskom intervencijom. Za primjene u zdravstvu i farmaceutskoj industriji, Capsa pomaže identificirati kada su AI predviđanja potkrijepljena dokazima, a kada su puka špekulacija, što može ubrzati otkrivanje lijekova uz smanjenje rizika.
"Želimo omogućiti umjetnoj inteligenciji primjenu u najzahtjevnijim područjima svake industrije," kaže Amini. "Svi smo vidjeli primjere AI halucinacija ili pogrešaka. Kako se AI sve više koristi, te pogreške mogu imati razorne posljedice. Themis omogućuje da bilo koji AI može predvidjeti i prepoznati vlastite pogreške prije nego što se dogode."
Tehnologija se već implementira u raznim industrijama. Mnoge tvrtke koje razvijaju velike jezične modele koriste Capsu kako bi njihovi modeli mogli kvantificirati nesigurnost za svaki izlaz, omogućujući pouzdanije odgovaranje na pitanja i označavanje nepouzdanih rezultata. Themis AI surađuje i s proizvođačima poluvodiča na poboljšanju manjih AI modela koji se koriste na mobitelima ili ugrađenim sustavima, postižući istovremeno nisku latenciju i visoku kvalitetu.