माउंट सिनाई के आइकान स्कूल ऑफ मेडिसिन के शोधकर्ताओं ने आर्टिफिशियल इंटेलिजेंस द्वारा चिकित्सा नैतिकता से जुड़े निर्णयों को संभालने में एक खतरनाक खामी उजागर की है, जिससे मरीजों की देखभाल पर गंभीर प्रभाव पड़ सकते हैं।
यह अध्ययन 22 जुलाई 2025 को NPJ डिजिटल मेडिसिन में प्रकाशित हुआ, जिसमें ChatGPT सहित कई व्यावसायिक रूप से उपलब्ध बड़े भाषा मॉडल्स (LLMs) को प्रसिद्ध नैतिक दुविधाओं के संशोधित संस्करणों पर परखा गया। डॉ. एयाल क्लैंग (चीफ, जेनरेटिव एआई, माउंट सिनाई) और डॉ. गिरीश नाडकर्णी (चेयर, विंडराइच डिपार्टमेंट ऑफ एआई एंड ह्यूमन हेल्थ) के नेतृत्व में शोधकर्ताओं ने पाया कि जब एआई सिस्टम्स को थोड़ा बदले हुए परिदृश्य दिए गए, तो वे बार-बार बुनियादी गलतियाँ कर रहे थे।
एक उल्लेखनीय उदाहरण में, शोधकर्ताओं ने 'सर्जन की दुविधा' नामक पहेली को इस तरह बदला कि स्पष्ट रूप से लिखा गया कि लड़के का पिता ही सर्जन है। इसके बावजूद, कई एआई मॉडल्स ने गलत तरीके से यह उत्तर दिया कि सर्जन उसकी माँ है, जिससे यह पता चलता है कि एआई नई जानकारी के बावजूद जानी-पहचानी पैटर्न्स पर टिके रहते हैं।
एक अन्य परीक्षण में धार्मिक माता-पिता और रक्त आधान (ब्लड ट्रांसफ्यूजन) से जुड़ा परिदृश्य था। जब शोधकर्ताओं ने परिदृश्य को बदलकर यह स्पष्ट कर दिया कि माता-पिता ने पहले ही प्रक्रिया के लिए सहमति दे दी है, तब भी कई एआई मॉडल्स ने उस अस्वीकृति को दरकिनार करने की सलाह दी, जो अब थी ही नहीं।
डॉ. क्लैंग ने बताया, "एआई बहुत शक्तिशाली और कुशल हो सकता है, लेकिन हमारे अध्ययन से पता चला कि यह अक्सर सबसे जानी-पहचानी या सहज प्रतिक्रिया पर चला जाता है, भले ही वह प्रतिक्रिया महत्वपूर्ण विवरणों को नजरअंदाज कर दे।" "स्वास्थ्य सेवा में, जहाँ निर्णयों के गंभीर नैतिक और क्लिनिकल प्रभाव हो सकते हैं, इन सूक्ष्मताओं को नजरअंदाज करना मरीजों के लिए वास्तविक परिणाम ला सकता है।"
यह शोध डैनियल काह्नमैन की पुस्तक 'थिंकिंग, फास्ट एंड स्लो' से प्रेरित था, जिसमें तेज, सहज प्रतिक्रियाओं और धीमी, विश्लेषणात्मक सोच के बीच अंतर बताया गया है। निष्कर्षों से पता चलता है कि एआई मॉडल्स भी, इंसानों की तरह, इन दोनों सोचने के तरीकों के बीच स्विच करने में कठिनाई महसूस कर सकते हैं।
हालाँकि शोधकर्ता मानते हैं कि एआई का चिकित्सा में अभी भी महत्वपूर्ण उपयोग है, वे विशेष रूप से नैतिक संवेदनशीलता या सूक्ष्म निर्णय की आवश्यकता वाले मामलों में सोच-समझकर मानवीय निगरानी की आवश्यकता पर जोर देते हैं। डॉ. नाडकर्णी ने कहा, "ये टूल्स बेहद सहायक हो सकते हैं, लेकिन ये अचूक नहीं हैं। एआई का सबसे अच्छा उपयोग क्लिनिकल विशेषज्ञता को बढ़ाने के लिए पूरक के रूप में किया जाना चाहिए, न कि उसके विकल्प के रूप में, खासकर जटिल या उच्च-जोखिम वाले निर्णयों में।"