MIT பல்கலைக்கழகத்தின் புதிய ஆய்வின்படி, மருத்துவ படங்களை பகுப்பாய்வு செய்யும் செயற்கை நுண்ணறிவு அமைப்புகளில் உள்ள ஒரு முக்கிய குறைபாடு நோயாளிகளுக்கு ஆபத்தை ஏற்படுத்தக்கூடும்.
இந்த ஆய்வை, பட்டய மாணவர் குமைல் அல்-ஹமௌத் மற்றும் இணை பேராசிரியர் மார்சியே கசேமி தலைமையில் நடத்தினர். இதில், மருத்துவ சேவையில் பரவலாக பயன்படுத்தப்படும் பார்வை-மொழி மாதிரிகள் (VLMs) 'இல்லை', 'இல்லாமல்' போன்ற மறுப்பு சொற்களை மருத்துவ படங்களை பகுப்பாய்வு செய்யும் போது அடிப்படையாகவே புரிந்துகொள்ள முடியவில்லை என்பது தெரியவந்தது.
"இந்த மறுப்பு சொற்கள் மிகவும் முக்கியமான தாக்கத்தை ஏற்படுத்தும். இந்த மாதிரிகளை கண்காணிக்காமல் பயன்படுத்தினால், பேரழிவான விளைவுகளை சந்திக்க நேரிடும்," என்று ஆய்வின் முதன்மை எழுத்தாளர் அல்-ஹமௌத் எச்சரிக்கிறார்.
ஆராய்ச்சியாளர்கள் ஒரு மருத்துவ எடுத்துக்காட்டை முன்வைத்துள்ளனர்: ஒரு ரேடியாலஜிஸ்ட் மார்பு எக்ஸ்-ரேவில் திசு வீக்கம் இருந்தாலும், இதயம் பெரிதாக இல்லை என்று கண்டறிந்தால், AI அமைப்பு இரண்டுமே உள்ளதாக தவறாக வழிகாட்டக்கூடும். இதனால் முற்றிலும் வேறு ஒரு தவறான நோயறிதல் ஏற்பட வாய்ப்பு உள்ளது. முறையாக சோதனை செய்யும் போது, இந்த AI மாதிரிகள் மறுப்பு பணிகளில் சீரற்ற முறையில் ஊகிப்பதைவிட சிறப்பாக செயல்படவில்லை.
இந்த முக்கியமான குறையை சரிசெய்ய, குழுவினர் NegBench என்ற விரிவான மதிப்பீட்டு枠மைப்பை உருவாக்கியுள்ளனர். இது 18 வகையான பணிகள் மற்றும் 79,000 எடுத்துக்காட்டுகள் கொண்டது; படங்கள், வீடியோக்கள் மற்றும் மருத்துவ தரவுத்தளங்களை உள்ளடக்கியது. அவர்கள் முன்வைத்த தீர்வு, கோடிக்கணக்கான மறுப்பு விளக்கங்களை கொண்ட சிறப்பு தரவுத்தளங்களுடன் VLM-ஐ மறுபயிற்சி செய்யும் முறையாகும். இதன் மூலம் மறுப்பு கேள்விகளில் நினைவுகூரல் 10% அதிகரித்துள்ளது; மறுப்பு விளக்கங்களுடன் கூடிய பல்தேர்வு கேள்விகளில் துல்லியம் 28% வரை மேம்பட்டுள்ளது.
"மறுப்பு போன்ற அடிப்படை அம்சம் கூட சரியாக செயல்படவில்லை என்றால், நாம் இப்போது பயன்படுத்தும் பல்வேறு வழிகளில் பெரிய பார்வை/மொழி மாதிரிகளை பயன்படுத்தக் கூடாது – தீவிரமான மதிப்பீடு இல்லாமல்," என்று கசேமி எச்சரிக்கிறார். உயர் அபாயம் உள்ள மருத்துவ சூழலில் இந்த அமைப்புகளை பயன்படுத்தும் முன் கவனமாக மதிப்பீடு செய்ய வேண்டும் என அவர் வலியுறுத்துகிறார்.
இந்த ஆய்வில் OpenAI மற்றும் Oxford பல்கலைக்கழகத்திலிருந்து இணை ஆராய்ச்சியாளர்களும் பங்கேற்றுள்ளனர். இந்த ஆய்வு வரவிருக்கும் கணினி பார்வை மற்றும் வடிவமைப்பு மாநாட்டில் வழங்கப்பட உள்ளது. குழுவினர் தங்கள் அளவுகோலும் குறியீடும் பொதுமக்களுக்கு திறந்தவையாக வெளியிட்டுள்ளனர், இதன் மூலம் இந்த முக்கியமான AI பாதுகாப்பு சிக்கலை தீர்க்க உதவ முடியும்.