Kunstmatige intelligentiesystemen zoals ChatGPT zijn tegenwoordig bijzonder goed in het genereren van geloofwaardige antwoorden op vrijwel elke vraag. Toch erkennen deze systemen zelden hun beperkingen of geven ze onzekerheid aan wanneer dat gepast zou zijn—een tekortkoming die aanzienlijke risico’s met zich meebrengt nu AI steeds vaker wordt ingezet in kritieke sectoren.
Themis AI, in 2021 opgericht door MIT-onderzoekers Daniela Rus, Alexander Amini en Elaheh Ahmadi, heeft hiervoor een oplossing ontwikkeld. Hun Capsa-platform kan met elk machine learning-model worden geïntegreerd om onbetrouwbare uitkomsten binnen enkele seconden te detecteren en corrigeren.
"We hebben allemaal voorbeelden gezien van AI die hallucineert of fouten maakt," legt Amini uit, medeoprichter van Themis AI. "Naarmate AI breder wordt ingezet, kunnen die fouten rampzalige gevolgen hebben. Themis maakt het mogelijk dat elke AI zijn eigen falen kan voorspellen en voorzien, nog vóór ze plaatsvinden."
De technologie werkt door AI-modellen aan te passen zodat ze patronen herkennen in hun gegevensverwerking die wijzen op ambiguïteit, onvolledigheid of vooringenomenheid. Hierdoor kunnen de modellen hun eigen onzekerheid per uitkomst kwantificeren en mogelijke fouten signaleren. De implementatie is opvallend eenvoudig—met slechts enkele regels code kan een bestaand model worden omgezet naar een onzekerheidsbewuste variant.
Capsa wordt inmiddels in meerdere sectoren toegepast. Farmaceutische bedrijven gebruiken het om AI-modellen te verbeteren die geneesmiddelkandidaten identificeren en de uitkomsten van klinische studies voorspellen. Ontwikkelaars van grote taalmodellen implementeren het om betrouwbaardere vraag-antwoordsystemen te realiseren en onbetrouwbare uitkomsten te markeren. Themis AI voert daarnaast gesprekken met halfgeleiderbedrijven om AI-oplossingen voor edge computing te versterken.
"Door automatisch zowel aleatorische als epistemische onzekerheid te kwantificeren, is Capsa een transformerende technologie waarmee modelfouten kunnen worden onderschept voordat ze kostbare gevolgen hebben," zegt Rus, tevens directeur van het MIT Computer Science and Artificial Intelligence Laboratory. "Het vergroot de inzetbaarheid van AI-systemen in toepassingen waar veiligheid en betrouwbaarheid essentieel zijn, zoals robotica en autonoom rijden."
Naarmate AI zich verder ontwikkelt en doordringt tot kritieke sectoren, zullen oplossingen als Capsa essentieel zijn voor het bouwen van betrouwbaardere systemen die hun eigen beperkingen erkennen—een cruciale stap richting verantwoorde AI-toepassingen in omgevingen met hoge risico’s.