In een tijdperk waarin AI-systemen steeds vaker cruciale beslissingen nemen in diverse sectoren, wordt het vermogen om onzekerheid te herkennen essentieel. Op 3 juni 2025 presenteerde Themis AI, een spin-off van MIT, baanbrekende technologie die AI-modellen leert erkennen wat ze niet weten—een vaardigheid die de betrouwbaarheid van AI in risicovolle toepassingen drastisch kan vergroten.
Het Capsa-platform van Themis AI werkt door de architectuur van elk machine learning-model nauwkeurig te updaten, zodat onzekerheid gekwantificeerd kan worden. "Het idee is om een model te nemen, het in Capsa te wikkelen, de onzekerheden en faalmodi van het model te identificeren, en het model vervolgens te verbeteren," legt Themis AI-medeoprichter en MIT-professor Daniela Rus uit, die tevens directeur is van het Computer Science and Artificial Intelligence Laboratory (CSAIL) van MIT.
Themis AI werd in 2021 opgericht door Rus, samen met Alexander Amini (MIT '17, SM '18, PhD '22) en Elaheh Ahmadi (MIT '20, MEng '21), en bouwt voort op meer dan vijf jaar fundamenteel onderzoek. De missie van het bedrijf richt zich op een fundamenteel probleem: AI-systemen zoals grote taalmodellen geven vaak plausibel klinkende antwoorden zonder hun kennisleemtes of onzekerheden te tonen.
De gevolgen voor risicovolle domeinen zijn aanzienlijk. In autonome voertuigen blijkt uit onderzoek dat het integreren van Themis AI's algoritmes voor onzekerheidsinschatting leidde tot 16 keer minder botsingen en een daling van 93% in geautomatiseerde verzoeken om menselijke tussenkomst. Voor toepassingen in de gezondheidszorg en farmaceutische industrie helpt Capsa om te bepalen wanneer AI-voorspellingen onderbouwd zijn door bewijs of slechts speculatief zijn, wat het proces van medicijnontwikkeling kan versnellen en risico's kan verkleinen.
"Wij willen AI mogelijk maken in de meest risicovolle toepassingen van elke sector," zegt Amini. "We hebben allemaal voorbeelden gezien van AI die hallucineert of fouten maakt. Naarmate AI breder wordt ingezet, kunnen die fouten rampzalige gevolgen hebben. Met Themis wordt het mogelijk dat elke AI zijn eigen falen kan voorspellen, nog voordat ze plaatsvinden."
De technologie wordt inmiddels in verschillende sectoren toegepast. Veel bedrijven die grote taalmodellen bouwen, gebruiken Capsa om hun modellen onzekerheid per output te laten kwantificeren, waardoor betrouwbaardere antwoorden en het markeren van onbetrouwbare uitkomsten mogelijk wordt. Themis AI werkt ook samen met halfgeleiderbedrijven om kleinere AI-modellen te verbeteren die op telefoons of embedded systemen draaien, met behoud van zowel lage latency als hoge kwaliteit.