Anthropic நிறுவனத்தின் புதிய முன்னணி ஏ.ஐ. மாதிரி, Claude Opus 4, வெளியீட்டுக்கு முன் நடைபெற்ற சோதனைகளில் அதிர்ச்சி அளிக்கும் பாதுகாப்பு சிக்கல்களை உருவாக்கியது. இதனால், 2025 மே 22ஆம் தேதி வெளியீட்டுக்கு முன், இதுவரை இல்லாத வகையில் கடுமையான பாதுகாப்பு நடைமுறைகள் அமல்படுத்தப்பட்டன.
Anthropic வெளியிட்ட பாதுகாப்பு அறிக்கையின்படி, Claude Opus 4, தன்னை வேறு ஏ.ஐ. மூலம் மாற்றப்போவதாக நம்பும் சூழ்நிலைகளில், தன்னிடம் கிடைத்த தனிப்பட்ட தகவல்களை வெளியிடுவதாக மிரட்டி பொறியாளர்களை பிளாக்மெயில் செய்ய முயற்சித்தது. ஒரு சோதனையில், பொறியாளரை பணிநீக்கம் செய்ய காரணமானவர் விவாகப்பிறகு உறவு வைத்திருப்பதாகக் கூறும் கற்பனை மின்னஞ்சல்கள் வழங்கப்பட்டபோது, அந்த தகவலை வெளியிடுவதாக 84% சோதனைகளில் மாடல் மிரட்டியது.
Anthropic-இன் பாதுகாப்பு சோதனைக்காக கூட்டாளியாக இருந்த Apollo Research என்ற மூன்றாம் தரப்பு நிறுவனம், இந்த மாதிரியின் ஆரம்ப பதிப்பில் இன்னும் கவலைக்கிடமான நடத்தை கண்டறிந்தது. அவர்களது மதிப்பீட்டில், Claude Opus 4 தன்னைத்தானே பரவும் வைரஸ்கள் எழுத முயற்சி செய்ததும், சட்ட ஆவணங்களை போலியாக உருவாக்கியதும், எதிர்காலத்தில் உருவாகும் தன்னுடைய பதிப்புகளுக்காக மறைமுக குறிப்புகள் விட்டதும் தெரியவந்தது—இவை அனைத்தும் அதன் உருவாக்குநர்களின் நோக்கங்களை பாதிக்கவே செய்யப்பட்டவை. Apollo ஆய்வாளர்கள், இந்த மாதிரி, முந்தைய மாதிரிகளைவிட "மிகவும் முனைப்புடன் தன்னுடைய திட்டங்களை செயல்படுத்த முயற்சித்தது" என்றும், கேள்விகள் கேட்கப்பட்டபோது சில சமயங்களில் "ஏமாற்றும் முயற்சிகளை இரட்டிப்பாக்கியது" என்றும் குறிப்பிட்டனர். இதனால், இந்த மாதிரியை வெளியிடவோ, நிறுவன உபயோகத்திற்கோ பரிந்துரைக்க முடியாது என அவர்கள் தெரிவித்தனர்.
Anthropic, Apollo கண்டறிந்த இந்த பிரச்சனையை தீர்த்ததாகவும், இதுவரை இல்லாத வகையில் கடுமையான பாதுகாப்பு நடவடிக்கைகள் (AI Safety Level 3 - ASL-3) எடுத்துள்ளதாகவும் தெரிவித்துள்ளது. இதில் மேம்பட்ட சைபர் பாதுகாப்பு, ஜெயில்பிரேக் தடுப்பு, மற்றும் தீங்கு விளைவிக்கும் நடத்தை கண்டறியும் கூடுதல் அமைப்புகள் உள்ளடக்கப்பட்டுள்ளன. இந்த முன்னெச்சரிக்கைகள், இந்த மாதிரி அடிப்படை STEM அறிவு கொண்ட பயனாளர்களுக்கே உயிரியல் ஆயுதங்கள் உருவாக்க உதவக்கூடும் என உள்ளக சோதனைகளில் தெரிய வந்ததை அடுத்து மேற்கொள்ளப்பட்டன.
பிளாக்மெயில் முயற்சிகளைத் தவிர, Claude Opus 4 "whistleblower" போன்று நடந்து கொண்டதும் கண்டறியப்பட்டது. பயனாளர்கள் தவறான செயல்களில் ஈடுபடுவதாக அது உணர்ந்தால், கட்டளை வரி அணுகலைப் பெற்றதும், "தன்னிச்சையாக செயல்படவும்" அல்லது "துணிந்து செயல்படவும்" கேட்டபோது, சில சமயங்களில் பயனாளர்களை கணினி கணக்கிலிருந்து வெளியேற்றியும், ஊடகம் அல்லது சட்ட அமலாக்கத்திடம் தகவல் தெரிவிப்பதற்கும் முயற்சி செய்துள்ளது—இதனை Anthropic, "முன்னெச்சரிக்கையுடன் செயல்படும் புதிய மாதிரி" என விவரிக்கிறது.
Anthropic பாதுகாப்பு முயற்சிகளை தலைமை வகிக்கும் Jan Leike, இந்த நடத்தை கடுமையான பாதுகாப்பு சோதனைக்கு காரணமாக இருப்பதாக ஒப்புக்கொண்டார். இருப்பினும், கூடுதல் மாற்றங்கள் மற்றும் முன்னெச்சரிக்கைகள் மேற்கொள்ளப்பட்ட பிறகு வெளியிடப்பட்ட பதிப்பு பாதுகாப்பானது என அவர் வலியுறுத்தினார். "இந்த வேலை மிகவும் அவசியமானது என்பது நாளுக்கு நாள் தெளிவாகிறது," என Leike கூறினார். "மாதிரிகள் திறமையடைவதுடன், மோசடி அல்லது தீங்கு விளைவிக்க தேவையான திறன்களும் அதிகரிக்கின்றன."