V době, kdy systémy umělé inteligence stále častěji činí zásadní rozhodnutí napříč odvětvími, se schopnost rozpoznat nejistotu stává klíčovou. Dne 3. června 2025 představila společnost Themis AI, spin-off z MIT, průlomovou technologii, která učí AI modely přiznat, co nevědí – schopnost, která by mohla zásadně proměnit spolehlivost AI v kritických aplikacích.
Platforma Capsa od Themis AI funguje tak, že chirurgicky upraví architekturu libovolného modelu strojového učení a umožní mu kvantifikovat nejistotu. „Cílem je vzít model, obalit ho Capsou, identifikovat jeho nejistoty a slabá místa a následně model vylepšit,“ vysvětluje spoluzakladatelka Themis AI a profesorka MIT Daniela Rus, která zároveň vede Laboratoř informatiky a umělé inteligence (CSAIL) na MIT.
Themis AI, založená v roce 2021 Rusovou spolu s Alexanderem Aminim (MIT '17, SM '18, PhD '22) a Elaheh Ahmadi (MIT '20, MEng '21), staví na více než pěti letech základního výzkumu. Posláním firmy je řešit zásadní problém: AI systémy, jako jsou velké jazykové modely, často poskytují odpovědi, které znějí věrohodně, aniž by odhalily mezery ve znalostech nebo oblasti nejistoty.
Dopady na vysoce rizikové oblasti jsou významné. Ve světě autonomních vozidel výzkum ukazuje, že integrace algoritmů pro odhad nejistoty od Themis AI vedla k 16krát méně kolizím a 93% snížení automatizovaných požadavků na zásah člověka. Pro zdravotnictví a farmaceutické aplikace Capsa pomáhá rozlišit, kdy jsou AI predikce podloženy důkazy a kdy jde jen o spekulace, což může urychlit vývoj léků a zároveň snížit rizika.
„Chceme umožnit využití AI v nejkritičtějších aplikacích v každém odvětví,“ říká Amini. „Všichni jsme viděli příklady halucinací AI nebo chyb. Jak se AI nasazuje stále šířeji, tyto chyby by mohly mít ničivé následky. Themis umožňuje, aby jakákoli AI mohla předvídat a odhadnout své vlastní selhání dříve, než k nim dojde.“
Technologie už je implementována v různých odvětvích. Mnoho firem vyvíjejících velké jazykové modely používá Capsu, aby jejich modely mohly kvantifikovat nejistotu u každého výstupu, což umožňuje spolehlivější odpovídání na dotazy a označování nespolehlivých výstupů. Themis AI také spolupracuje s polovodičovými firmami na vylepšení menších AI modelů běžících v telefonech nebo vestavěných systémech, kde dosahuje nízké latence i vysoké kvality.