Aikana, jolloin tekoälyjärjestelmät tekevät yhä useammin kriittisiä päätöksiä eri toimialoilla, epävarmuuden tunnistamisesta on tulossa välttämätöntä. 3. kesäkuuta 2025 MIT:n spinout-yritys Themis AI esitteli läpimurtoteknologian, joka opettaa tekoälymalleille kyvyn myöntää, mitä ne eivät tiedä — ominaisuuden, joka voi mullistaa tekoälyn luotettavuuden korkean riskin sovelluksissa.
Themis AI:n Capsa-alusta toimii päivittämällä kirurgisesti minkä tahansa koneoppimismallin arkkitehtuuria, jotta epävarmuuden kvantifiointi mahdollistuu. "Ideana on ottaa malli, kietoa se Capsaan, tunnistaa mallin epävarmuudet ja virhetilat ja sitten parantaa mallia", selittää Themis AI:n toinen perustaja ja MIT:n professori Daniela Rus, joka johtaa myös MIT:n tietojenkäsittelytieteen ja tekoälyn laboratorioa (CSAIL).
Vuonna 2021 perustettu Themis AI pohjautuu yli viiden vuoden perustutkimukseen, ja sen perustajiin kuuluvat Rusin lisäksi Alexander Amini (MIT '17, SM '18, PhD '22) ja Elaheh Ahmadi (MIT '20, MEng '21). Yrityksen missio pureutuu perustavanlaatuiseen ongelmaan: tekoälyjärjestelmät, kuten suuret kielimallit, antavat usein uskottavan kuuloisia vastauksia paljastamatta tietämyksensä aukkoja tai epävarmuuden alueita.
Vaikutukset korkean riskin aloilla ovat merkittäviä. Autonomisissa ajoneuvoissa tutkimukset osoittavat, että Themis AI:n epävarmuusarviointialgoritmien integrointi johti 16 kertaa harvempiin törmäyksiin ja 93 %:n vähennykseen automaattisissa ihmisen avunpyynnöissä. Terveys- ja lääkealalla Capsa auttaa tunnistamaan, milloin tekoälyn ennusteet perustuvat näyttöön ja milloin ne ovat pelkkää spekulaatiota, mikä voi nopeuttaa lääkekehitystä ja samalla vähentää riskejä.
"Haluamme mahdollistaa tekoälyn käytön kaikkein kriittisimmissä sovelluksissa jokaisella toimialalla", sanoo Amini. "Olemme kaikki nähneet esimerkkejä tekoälyn hallusinaatioista tai virheistä. Kun tekoälyä otetaan laajemmin käyttöön, nämä virheet voivat johtaa tuhoisiin seurauksiin. Themis mahdollistaa sen, että mikä tahansa tekoäly voi ennustaa ja arvioida omat epäonnistumisensa jo ennen kuin ne tapahtuvat."
Teknologiaa otetaan jo käyttöön eri toimialoilla. Monet yritykset, jotka kehittävät suuria kielimalleja, hyödyntävät Capsaa, jotta niiden mallit voivat arvioida epävarmuutta jokaisen tuotoksen kohdalla — näin kysymyksiin vastaaminen on luotettavampaa ja epäluotettavat tulokset voidaan merkitä. Themis AI tekee myös yhteistyötä puolijohdeyritysten kanssa parantaakseen pienempiä tekoälymalleja, jotka toimivat puhelimissa tai sulautetuissa järjestelmissä, saavuttaen sekä matalan viiveen että korkean laadun.