W erze, w której systemy sztucznej inteligencji coraz częściej podejmują kluczowe decyzje w różnych branżach, umiejętność rozpoznawania niepewności staje się niezbędna. 3 czerwca 2025 roku Themis AI, spółka spin-off z MIT, zaprezentowała przełomową technologię uczącą modele AI przyznawania się do niewiedzy — zdolność, która może zrewolucjonizować niezawodność AI w zastosowaniach o wysokim ryzyku.
Platforma Capsa firmy Themis AI działa poprzez precyzyjną modyfikację architektury dowolnego modelu uczenia maszynowego, umożliwiając mu kwantyfikację niepewności. „Ideą jest wzięcie modelu, otoczenie go Capsą, zidentyfikowanie niepewności i trybów awarii modelu, a następnie jego ulepszenie” — wyjaśnia współzałożycielka Themis AI i profesor MIT Daniela Rus, kierująca także Laboratorium Informatyki i Sztucznej Inteligencji (CSAIL) na MIT.
Firma została założona w 2021 roku przez Rus, Alexandra Amini (MIT '17, SM '18, PhD '22) oraz Elaheh Ahmadi (MIT '20, MEng '21) i opiera się na ponad pięciu latach badań podstawowych. Misja Themis AI odpowiada na fundamentalny problem: systemy AI, takie jak duże modele językowe, często udzielają odpowiedzi brzmiących wiarygodnie, nie ujawniając przy tym luk w wiedzy ani obszarów niepewności.
Konsekwencje dla sektorów wysokiego ryzyka są znaczące. W autonomicznych pojazdach badania wykazały, że integracja algorytmów szacowania niepewności Themis AI doprowadziła do 16-krotnego spadku liczby kolizji oraz 93% redukcji automatycznych próśb o interwencję człowieka. W zastosowaniach medycznych i farmaceutycznych Capsa pomaga określić, kiedy prognozy AI są poparte dowodami, a kiedy są jedynie spekulacją, co może przyspieszyć odkrywanie leków i jednocześnie ograniczyć ryzyko.
„Chcemy umożliwić wykorzystanie AI w najbardziej wymagających zastosowaniach każdej branży” — mówi Amini. „Wszyscy widzieliśmy przykłady halucynacji lub błędów AI. W miarę jak AI będzie szerzej wdrażana, takie pomyłki mogą prowadzić do katastrofalnych skutków. Themis sprawia, że każda AI może przewidzieć i rozpoznać własne błędy, zanim do nich dojdzie.”
Technologia jest już wdrażana w różnych sektorach. Wiele firm rozwijających duże modele językowe korzysta z Capsy, by umożliwić swoim modelom kwantyfikowanie niepewności dla każdej odpowiedzi, co pozwala na bardziej wiarygodne udzielanie odpowiedzi i oznaczanie niewiarygodnych wyników. Themis AI współpracuje także z firmami półprzewodnikowymi, by usprawnić mniejsze modele AI działające na telefonach czy systemach wbudowanych, osiągając jednocześnie niskie opóźnienia i wysoką jakość.