आर्टिफिशियल इंटेलिजेंस सिस्टम्स, जैसे कि ChatGPT, लगभग हर प्रश्न का विश्वसनीय-सा उत्तर देने में बेहद सक्षम हो गए हैं। हालांकि, ये सिस्टम्स अक्सर अपनी सीमाओं को स्वीकार करने या उचित समय पर अनिश्चितता व्यक्त करने में विफल रहते हैं—यह कमी AI को महत्वपूर्ण क्षेत्रों में अपनाए जाने के साथ गंभीर जोखिम पैदा करती है।
Themis AI, जिसे 2021 में MIT के शोधकर्ताओं डैनिएला रस, अलेक्जेंडर अमीनी और एलाहेह अहमदी ने स्थापित किया था, ने इस समस्या का समाधान खोज निकाला है। उनका Capsa प्लेटफॉर्म किसी भी मशीन लर्निंग मॉडल के साथ जोड़ा जा सकता है, जिससे वह सेकंडों में अविश्वसनीय आउटपुट को पहचान और सुधार सकता है।
Themis AI के सह-संस्थापक अमीनी बताते हैं, "हम सभी ने AI को कल्पना करते या गलतियाँ करते देखा है। जैसे-जैसे AI का व्यापक स्तर पर उपयोग हो रहा है, ये गलतियाँ गंभीर परिणाम ला सकती हैं। Themis के माध्यम से अब कोई भी AI अपने संभावित विफलताओं की भविष्यवाणी और पूर्वानुमान कर सकता है, वह भी पहले से।"
यह तकनीक AI मॉडलों को उनके डेटा प्रोसेसिंग में ऐसे पैटर्न पहचानने के लिए संशोधित करती है, जो अस्पष्टता, अपूर्णता या पूर्वाग्रह का संकेत देते हैं। इससे मॉडल प्रत्येक आउटपुट के लिए अपनी अनिश्चितता को माप सकते हैं और संभावित त्रुटियों को चिन्हित कर सकते हैं। इसे लागू करना बेहद आसान है—मौजूदा मॉडल को अनिश्चितता-सक्षम वेरिएंट में बदलने के लिए केवल कुछ पंक्तियों का कोड जोड़ना होता है।
Capsa का उपयोग पहले ही कई उद्योगों में किया जा रहा है। दवा कंपनियाँ इसका इस्तेमाल उन AI मॉडलों को बेहतर बनाने के लिए कर रही हैं, जो दवा उम्मीदवारों की पहचान करते हैं और क्लिनिकल ट्रायल के प्रदर्शन का पूर्वानुमान लगाते हैं। बड़े भाषा मॉडल डेवलपर्स इसका इस्तेमाल अधिक विश्वसनीय प्रश्नोत्तर और अविश्वसनीय आउटपुट को चिन्हित करने के लिए कर रहे हैं। Themis AI सेमीकंडक्टर कंपनियों के साथ भी बातचीत कर रही है, ताकि एज कंप्यूटिंग के लिए AI समाधानों को बेहतर बनाया जा सके।
MIT कंप्यूटर साइंस और आर्टिफिशियल इंटेलिजेंस लैबोरेटरी की निदेशक और Themis AI की सह-संस्थापक रस कहती हैं, "Capsa द्वारा स्वचालित रूप से एलेटोरिक और एपिस्टेमिक अनिश्चितता को मापना एक परिवर्तनकारी तकनीक है, जिससे मॉडल की गलतियों को महंगी भूल बनने से पहले ही पकड़ा जा सकता है। यह AI सिस्टम्स के उपयोग को उन अनुप्रयोगों में विस्तारित करता है, जहाँ सुरक्षा और विश्वसनीयता सबसे महत्वपूर्ण हैं, जैसे कि रोबोटिक्स और स्वायत्त ड्राइविंग।"
जैसे-जैसे AI विकसित हो रहा है और महत्वपूर्ण क्षेत्रों में अपनी पहुँच बढ़ा रहा है, Capsa जैसी तकनीकें अधिक भरोसेमंद सिस्टम्स बनाने में अहम भूमिका निभाएँगी, जो अपनी सीमाओं को स्वीकार करती हैं—जो उच्च जोखिम वाले वातावरण में जिम्मेदार AI तैनाती की दिशा में एक महत्वपूर्ण कदम है।