Systemy sztucznej inteligencji, takie jak ChatGPT, stały się niezwykle biegłe w generowaniu wiarygodnie brzmiących odpowiedzi na niemal każde pytanie. Jednak często nie potrafią przyznać się do swoich ograniczeń ani wyrazić niepewności, gdy jest to zasadne – co stanowi poważne ryzyko w miarę przyspieszającej adopcji AI w kluczowych sektorach.
Themis AI, założona w 2021 roku przez badaczy MIT: Danielę Rus, Alexandra Amini i Elaheh Ahmadi, opracowała rozwiązanie tego problemu. Ich platforma Capsa może być zintegrowana z dowolnym modelem uczenia maszynowego, by wykrywać i korygować niepewne wyniki w ciągu kilku sekund.
„Wszyscy widzieliśmy przykłady halucynacji AI lub popełniania błędów” – wyjaśnia Amini, współzałożyciel Themis AI. „W miarę jak AI jest wdrażane na szerszą skalę, te błędy mogą prowadzić do katastrofalnych konsekwencji. Themis umożliwia każdej AI przewidywanie i prognozowanie własnych porażek zanim one nastąpią.”
Technologia działa poprzez modyfikację modeli AI tak, by rozpoznawały wzorce w przetwarzaniu danych wskazujące na niejednoznaczność, niekompletność lub stronniczość. Dzięki temu modele mogą kwantyfikować własną niepewność dla każdego wyniku i sygnalizować potencjalne błędy. Wdrożenie jest niezwykle proste – wystarczy kilka linijek kodu, by przekształcić istniejący model w wariant świadomy niepewności.
Capsa jest już stosowana w wielu branżach. Firmy farmaceutyczne wykorzystują ją do ulepszania modeli AI identyfikujących kandydatów na leki i przewidujących wyniki badań klinicznych. Twórcy dużych modeli językowych wdrażają ją, by zapewnić bardziej wiarygodne odpowiadanie na pytania i sygnalizować niepewne wyniki. Themis AI prowadzi również rozmowy z firmami półprzewodnikowymi, by usprawnić rozwiązania AI dla środowisk edge computing.
„Dzięki automatycznemu kwantyfikowaniu niepewności aleatorycznej i epistemicznej, Capsa to przełomowa technologia pozwalająca wychwycić błędy modelu zanim staną się kosztownymi pomyłkami” – mówi Rus, która pełni również funkcję dyrektorki MIT Computer Science and Artificial Intelligence Laboratory. „Rozszerza to zastosowania systemów AI w obszarach, gdzie kluczowe są bezpieczeństwo i niezawodność, takich jak robotyka czy autonomiczna jazda.”
W miarę jak AI nadal się rozwija i przenika do kluczowych sektorów, rozwiązania takie jak Capsa będą kluczowe dla budowania bardziej godnych zaufania systemów, które potrafią przyznać się do własnych ograniczeń – co jest niezbędnym krokiem w kierunku odpowiedzialnego wdrażania AI w środowiskach o wysokiej stawce.