Sustavi umjetne inteligencije poput ChatGPT-a postali su iznimno vješti u generiranju odgovora koji zvuče uvjerljivo na gotovo svako pitanje. Međutim, ti sustavi često ne priznaju svoja ograničenja niti izražavaju nesigurnost kada je to potrebno—što predstavlja značajan rizik kako se primjena AI-a ubrzava u ključnim sektorima.
Themis AI, koji su 2021. godine osnovali MIT-ovi istraživači Daniela Rus, Alexander Amini i Elaheh Ahmadi, razvio je rješenje za ovaj problem. Njihova platforma Capsa može se integrirati s bilo kojim modelom strojnog učenja kako bi u nekoliko sekundi detektirala i ispravila nepouzdane rezultate.
"Svi smo vidjeli primjere AI-a koji halucinira ili griješi," objašnjava Amini, suosnivač Themis AI-ja. "Kako se AI sve više koristi, te pogreške mogle bi imati pogubne posljedice. Themis omogućuje da svaki AI može predvidjeti i prepoznati vlastite neuspjehe prije nego što se dogode."
Tehnologija funkcionira tako da modificira AI modele kako bi prepoznali obrasce u obradi podataka koji ukazuju na dvosmislenost, nepotpunost ili pristranost. To omogućuje modelima da kvantificiraju vlastitu nesigurnost za svaki izlaz i označe potencijalne pogreške. Implementacija je izuzetno jednostavna—potrebno je samo nekoliko linija koda da se postojeći model pretvori u varijantu svjesnu nesigurnosti.
Capsa se već koristi u raznim industrijama. Farmaceutske tvrtke koriste je za poboljšanje AI modela koji identificiraju potencijalne lijekove i predviđaju uspješnost kliničkih ispitivanja. Programeri velikih jezičnih modela implementiraju je kako bi omogućili pouzdanije odgovaranje na pitanja i označavanje nepouzdanih rezultata. Themis AI također pregovara s proizvođačima poluvodiča o unapređenju AI rješenja za edge computing okruženja.
"Automatskim kvantificiranjem aleatorne i epistemološke nesigurnosti, Capsa je transformativna tehnologija koja omogućuje otkrivanje pogrešaka modela prije nego što postanu skupe greške," kaže Rus, koja je ujedno i ravnateljica MIT-ovog Laboratorija za računalne znanosti i umjetnu inteligenciju. "Ona proširuje mogućnosti AI sustava u primjenama gdje su sigurnost i pouzdanost ključni, poput robotike i autonomne vožnje."
Kako se AI nastavlja razvijati i prodirati u ključne sektore, rješenja poput Capse bit će ključna za izgradnju pouzdanijih sustava koji prepoznaju vlastita ograničenja—što je presudan korak prema odgovornom uvođenju AI-a u okruženja s visokim ulozima.