Tekoälyjärjestelmät, kuten ChatGPT, ovat kehittyneet huomattavan taitaviksi tuottamaan uskottavia vastauksia lähes mihin tahansa kysymykseen. Näillä järjestelmillä on kuitenkin usein puutteita omien rajoitustensa tunnistamisessa tai epävarmuuden ilmaisemisessa – puute, joka muodostaa merkittävän riskin tekoälyn yleistyessä kriittisillä aloilla.
Vuonna 2021 MIT:n tutkijoiden Daniela Rusin, Alexander Aminin ja Elaheh Ahmadin perustama Themis AI on kehittänyt ratkaisun tähän ongelmaan. Heidän Capsa-alustansa voidaan liittää mihin tahansa koneoppimismalliin, ja se kykenee havaitsemaan ja korjaamaan epäluotettavat tulokset sekunneissa.
"Olemme kaikki nähneet esimerkkejä tekoälyn harhaisuudesta tai virheistä", selittää Themis AI:n toinen perustaja Amini. "Kun tekoälyä otetaan laajemmin käyttöön, nämä virheet voivat johtaa tuhoisiin seurauksiin. Themis mahdollistaa sen, että mikä tahansa tekoäly voi ennustaa ja arvioida omat epäonnistumisensa jo ennen niiden tapahtumista."
Teknologia toimii muokkaamalla tekoälymalleja siten, että ne tunnistavat datankäsittelyssään esiintyviä epäselvyyden, puutteellisuuden tai vinouman merkkejä. Näin mallit pystyvät kvantifioimaan oman epävarmuutensa jokaisen tuottamansa vastauksen kohdalla ja merkitsemään mahdolliset virheet. Toteutus on poikkeuksellisen helppoa – olemassa olevan mallin muuttaminen epävarmuustietoiseksi vaatii vain muutaman rivin koodia.
Capsaa hyödynnetään jo useilla toimialoilla. Lääkeyritykset käyttävät sitä parantaakseen tekoälymalleja, jotka tunnistavat lääkeaihioita ja ennustavat kliinisten kokeiden onnistumista. Suurten kielimallien kehittäjät ottavat Capsan käyttöön varmistaakseen luotettavamman kysymys-vastaus-toiminnallisuuden ja epäluotettavien tulosten merkitsemisen. Themis AI käy myös keskusteluja puolijohdeyritysten kanssa tekoälyratkaisujen parantamiseksi reunalaskentaympäristöissä.
"Kvantifioimalla automaattisesti sekä aleatorisen että episteemisen epävarmuuden Capsa on mullistava teknologia, jonka avulla mallien virheet voidaan havaita ennen kuin niistä tulee kalliita ongelmia", sanoo Rus, joka toimii myös MIT:n tietojenkäsittelytieteen ja tekoälyn laboratorion johtajana. "Se laajentaa tekoälyjärjestelmien käyttöä sovelluksissa, joissa turvallisuus ja luotettavuus ovat keskeisiä, kuten robotiikassa ja autonomisessa ajamisessa."
Tekoälyn kehittyessä ja yleistyessä kriittisillä aloilla Capsan kaltaiset ratkaisut ovat avainasemassa luotettavampien järjestelmien rakentamisessa – järjestelmien, jotka tunnistavat omat rajoituksensa. Tämä on ratkaisevan tärkeä askel kohti vastuullista tekoälyn käyttöönottoa vaativissa ympäristöissä.