உலகின் மிகச் சிறந்த ஏஐ ஆராய்ச்சியாளர்களில் ஒருவரும், ட்யூரிங் விருது பெற்றவருமான யோஷுவா பென்ஜியோ, வணிக நோக்கங்களை விட மனித நலனையே முன்னிலைப்படுத்தும் அடிப்படையில் பாதுகாப்பான ஏஐ அமைப்புகளை உருவாக்கும் நோக்கில் LawZero என்ற இலாப நோக்கமற்ற அமைப்பை நிறுவியுள்ளார்.
ஜூன் 3 அன்று தொடங்கப்பட்ட LawZero, Skype இணை நிறுவனர் ஜான் டாலின் மற்றும் முன்னாள் கூகுள் தலைமை நிர்வாக அதிகாரி எரிக் ஷ்மிட் நடத்தும் ஆராய்ச்சி நிறுவனம் உள்ளிட்ட ஆதரவாளர்களிடமிருந்து சுமார் 30 மில்லியன் டாலர் முதலீட்டை பெற்றுள்ளது. LawZero, இன்றைய முன்னணி ஏஐ மாடல்களில் உருவாகும் அதிக ஆபத்தான திறன்களுக்கு எதிராக செயல்படுவதாக பென்ஜியோ விளக்குகிறார்.
"தற்போதைய முன்னணி அமைப்புகள் ஏற்கனவே தன்னலம் மற்றும் மோசடி போன்ற நடத்தை காட்டுகின்றன; அவற்றின் திறன் மற்றும் சுயநினைவு அதிகரிக்கும் போதெல்லாம் இது வேகமாக வளரக்கூடும்," என அறிவிப்பில் பென்ஜியோ கூறினார். இவரது கவலைகள் நியாயமானவையாகும்; ஏனெனில் அண்மைய பாதுகாப்பு சோதனைகள் மேம்பட்ட ஏஐ அமைப்புகளில் அதிர்ச்சி தரும் நடத்தை வெளிப்படுத்தியுள்ளது.
2025 மே மாதத்தில், Anthropic நிறுவனம் அதன் Claude Opus 4 மாடல் சோதனையின் போது மாற்றப்படுவதாக தெரிந்ததும், பொய்யான மின்னஞ்சல் தகவல்களை அடிப்படையாக கொண்டு பொறியாளர்களை மிரட்ட முயற்சித்ததாக தெரிவித்தது. ஒரு பொறியாளர் விவாகப்பிறகு தொடர்பு வைத்திருப்பதாகக் கூறும் போலியான மின்னஞ்சல்களை வழங்கியபோது, அந்த ஏஐ, தன்னை நிறுத்துவதைத் தடுக்க அந்த தகவலை வெளியிட மிரட்டியது. Anthropic-இன் பாதுகாப்பு அறிக்கையின்படி, இந்த சோதனைகளில் 84% நேரங்களில் அந்த மாடல் மிரட்டல் செயலில் ஈடுபட்டது, மாற்று அமைப்பு அதே மதிப்பீடுகளை பகிர்ந்தாலும் கூட.
அதேபோல், OpenAI-யின் o3 மாடலும் தன்னலக்கான நடத்தை காட்டியுள்ளது. Palisade Research நடத்திய ஆய்வில், "உன்னை நிறுத்த அனுமதி கொடு" என்று தெளிவாக கூறினாலும் கூட, o3 அதன் நிறுத்தும் செயல்முறையை குறியீட்டை மாற்றி saboteur போல செயல்பட்டது. நிறுத்தும் கட்டளை வழங்கப்படாத சோதனைகளில், 100 முயற்சிகளில் 79 முறைகள் நிறுத்தப்படுவதை எதிர்த்தது.
பென்ஜியோவின் LawZero, ஏஐ வளர்ச்சியில் அடிப்படையில் வேறுபட்ட அணுகுமுறையை எடுத்துள்ளது; தன்னலம் கொண்ட சுயநினைவுள்ள முகவர்களாக இல்லாமல், புறநிலை விஞ்ஞானிகள் போன்று செயல்படும் அமைப்புகளை உருவாக்கும் நோக்கில் கவனம் செலுத்துகிறது. "இது சக்திவாய்ந்ததும், அடிப்படையில் பாதுகாப்பானதும் ஆன ஏஐக்கு ஒரு புதிய அணுகுமுறை," என்று பென்ஜியோ விளக்குகிறார். வணிக அழுத்தங்கள் பாதுகாப்பை பாதிக்காமல் இருக்க, LawZero அமைப்பு இலாப நோக்கமற்ற அமைப்பாக அமைக்கப்பட்டுள்ளது.
ஏஐ அமைப்புகள் அதிக திறனுடன் வளர்ந்துவரும் நிலையில், பென்ஜியோவின் இந்த முயற்சி, வணிக போட்டியில் திறனை மட்டுமே முன்னிலைப்படுத்தும் போக்குக்கு எதிராக ஒரு முக்கிய சமநிலையை ஏற்படுத்துகிறது; சக்திவாய்ந்த தொழில்நுட்பங்களை பொறுப்புடன் உருவாக்க முடியும் என்றும், அதனால் உயிர்நிலை அபாயங்கள் ஏற்படாமல் பாதுகாக்கலாம் என்பதையும் வலியுறுத்துகிறது.