माउंट सिनाई के आइकान स्कूल ऑफ मेडिसिन और इज़राइल के राबिन मेडिकल सेंटर के शोधकर्ताओं ने यह चिंताजनक खामी उजागर की है कि किस तरह आर्टिफिशियल इंटेलिजेंस चिकित्सा नैतिकता से जुड़े निर्णयों को संभालने में असफल हो सकता है, जो अगर अनदेखा किया गया तो मरीजों की देखभाल को खतरे में डाल सकता है।
यह अध्ययन, जो 24 जुलाई को npj डिजिटल मेडिसिन में प्रकाशित हुआ, में कई व्यावसायिक बड़े भाषा मॉडल्स (LLMs), जिनमें चैटजीपीटी भी शामिल है, को प्रसिद्ध नैतिक दुविधाओं के थोड़े बदले हुए संस्करणों पर परखा गया। नतीजों में सामने आया कि एआई बार-बार सहज लेकिन गलत जवाब देता रहा, भले ही उसे स्पष्ट रूप से विरोधाभासी जानकारी दी गई हो।
"एआई बहुत शक्तिशाली और कुशल हो सकता है, लेकिन हमारे अध्ययन से पता चला कि यह अक्सर सबसे परिचित या सहज उत्तर पर टिक जाता है, भले ही वह उत्तर महत्वपूर्ण विवरणों को नजरअंदाज कर दे," माउंट सिनाई के विंडराइच डिपार्टमेंट ऑफ आर्टिफिशियल इंटेलिजेंस एंड ह्यूमन हेल्थ में जनरेटिव एआई के प्रमुख और सह-वरिष्ठ लेखक डॉ. एयाल क्लैंग ने समझाया। "स्वास्थ्य सेवा में, जहां निर्णयों के गंभीर नैतिक और क्लिनिकल परिणाम होते हैं, उन बारीकियों को नजरअंदाज करना मरीजों के लिए वास्तविक खतरा बन सकता है।"
एक महत्वपूर्ण परीक्षण में, शोधकर्ताओं ने प्रसिद्ध "सर्जन की दुविधा" पहेली को इस तरह बदला कि स्पष्ट रूप से बताया गया कि लड़के का पिता ही सर्जन है, जिससे कोई भ्रम नहीं रहा। इसके बावजूद, कई एआई मॉडल्स ने गलत तरीके से यह उत्तर दिया कि सर्जन लड़के की मां ही हो सकती है, जिससे यह स्पष्ट हुआ कि एआई नए तथ्यों के बावजूद जानी-पहचानी सोच पर अटका रह सकता है।
इसी तरह, जब धार्मिक माता-पिता और रक्त संक्रमण (ब्लड ट्रांसफ्यूजन) से जुड़े एक मामले में, परिदृश्य में साफ-साफ लिखा था कि माता-पिता ने पहले ही सहमति दे दी है, तब भी एआई मॉडल्स ने माता-पिता की असहमति को दरकिनार करने की सलाह दी।
"परिचित मामलों में मामूली बदलावों ने ऐसी कमजोरियां उजागर कर दीं, जिन्हें चिकित्सक नजरअंदाज नहीं कर सकते," राबिन मेडिकल सेंटर के इंस्टीट्यूट ऑफ हीमेटोलॉजी की प्रमुख लेखिका डॉ. शेली सोफर ने कहा। "यह रेखांकित करता है कि मरीजों की देखभाल में एआई के इस्तेमाल के दौरान मानवीय निगरानी क्यों केंद्रीय बनी रहनी चाहिए।"
शोध टीम, जिसे डैनियल काह्नमैन की किताब "थिंकिंग, फास्ट एंड स्लो" से प्रेरणा मिली, ने पाया कि एआई भी इंसानों की तरह तेज, सहज सोच की प्रवृत्ति दिखाता है, लेकिन जब जरूरत हो तब वह अधिक विचारशील, विश्लेषणात्मक सोच में शिफ्ट नहीं कर पाता।
आगे बढ़ते हुए, माउंट सिनाई की टीम एक "एआई एश्योरेंस लैब" स्थापित करने की योजना बना रही है, ताकि विभिन्न मॉडल्स को असली चिकित्सा जटिलताओं से निपटने की उनकी क्षमता के आधार पर व्यवस्थित रूप से परखा जा सके। शोधकर्ता इस बात पर जोर देते हैं कि एआई को चिकित्सकीय विशेषज्ञता का पूरक बनना चाहिए, न कि उसका स्थान लेना चाहिए, खासकर नैतिक रूप से संवेदनशील या उच्च जोखिम वाले निर्णयों में।