ऐसे दौर में जब AI सिस्टम्स विभिन्न उद्योगों में महत्वपूर्ण निर्णय ले रहे हैं, अनिश्चितता को पहचानने की क्षमता अत्यंत आवश्यक होती जा रही है। 3 जून, 2025 को, MIT से निकली Themis AI ने एक ऐसी तकनीक पेश की है, जो AI मॉडल्स को यह स्वीकारना सिखाती है कि वे क्या नहीं जानते—यह क्षमता उच्च जोखिम वाले क्षेत्रों में AI की विश्वसनीयता को पूरी तरह बदल सकती है।
Themis AI का Capsa प्लेटफ़ॉर्म किसी भी मशीन लर्निंग मॉडल की संरचना को सटीक रूप से अपडेट कर अनिश्चितता को मापने योग्य बनाता है। Themis AI की सह-संस्थापक और MIT की प्रोफेसर डेनिएला रस, जो MIT के कंप्यूटर साइंस और आर्टिफिशियल इंटेलिजेंस लैबोरेटरी (CSAIL) की निदेशक भी हैं, बताती हैं, "मॉडल को लें, उसे Capsa में रैप करें, उसकी अनिश्चितताओं और विफलता के प्रकारों की पहचान करें, और फिर मॉडल को बेहतर बनाएं—यही विचार है।"
2021 में डेनिएला रस, अलेक्ज़ेंडर अमीनी (MIT '17, SM '18, PhD '22) और इलाहे अहमदी (MIT '20, MEng '21) द्वारा स्थापित Themis AI, पाँच वर्षों से अधिक की बुनियादी रिसर्च पर आधारित है। कंपनी का मिशन एक मूल समस्या को हल करना है: बड़े भाषा मॉडल्स जैसे AI सिस्टम्स अक्सर विश्वसनीय लगने वाले उत्तर दे देते हैं, लेकिन वे अपनी जानकारी की सीमाएँ या अनिश्चितता नहीं दर्शाते।
उच्च जोखिम वाले क्षेत्रों के लिए इसके प्रभाव महत्वपूर्ण हैं। ऑटोनॉमस वाहनों में, रिसर्च से पता चलता है कि Themis AI के अनिश्चितता अनुमान एल्गोरिद्म को शामिल करने से टक्करों की संख्या 16 गुना कम हुई और मानव हस्तक्षेप के लिए स्वचालित अनुरोधों में 93% की कमी आई। स्वास्थ्य और फार्मास्युटिकल क्षेत्रों में, Capsa यह पहचानने में मदद करता है कि AI की भविष्यवाणी साक्ष्यों पर आधारित है या केवल अनुमान पर, जिससे दवा खोज की प्रक्रिया तेज और जोखिम कम हो सकते हैं।
अलेक्ज़ेंडर अमीनी कहते हैं, "हम हर उद्योग के सबसे उच्च-जोखिम वाले अनुप्रयोगों में AI को सक्षम बनाना चाहते हैं। हम सभी ने AI के गलतियाँ या काल्पनिक उत्तर देने के उदाहरण देखे हैं। जैसे-जैसे AI का उपयोग बढ़ेगा, ऐसी गलतियाँ गंभीर परिणाम ला सकती हैं। Themis यह संभव बनाता है कि कोई भी AI अपने संभावित विफलताओं का पूर्वानुमान और पूर्व-निर्धारण कर सके।"
यह तकनीक पहले से ही विभिन्न उद्योगों में लागू की जा रही है। कई कंपनियाँ, जो बड़े भाषा मॉडल्स बना रही हैं, अपने मॉडल्स में प्रत्येक आउटपुट की अनिश्चितता मापने के लिए Capsa का उपयोग कर रही हैं, जिससे उत्तर अधिक विश्वसनीय होते हैं और अविश्वसनीय आउटपुट को चिह्नित किया जा सकता है। Themis AI सेमीकंडक्टर कंपनियों के साथ मिलकर छोटे AI मॉडल्स को भी बेहतर बना रही है, जो फोन या एम्बेडेड सिस्टम्स पर चलते हैं, ताकि कम विलंबता के साथ उच्च गुणवत्ता प्राप्त की जा सके।