அறிவியல் நுண்ணறிவு (ஏஐ) துறையில், சக்திவாய்ந்த ஏஐ அமைப்புகளால் ஏற்படும் உயிர் நிலை ஆபத்துகளை எதிர்கொள்வதில் முன்னணி நிறுவனங்கள் இடையே குறிப்பிடத்தக்க பிளவு உருவாகியுள்ளது.
அமசான் முதலீட்டுடன், $61 பில்லியன் மதிப்பீட்டைக் கொண்ட அன்த்ரோபிக், மிகக் கவனமாக செயல்படும் நிறுவனமாக தன்னை நிலைநிறுத்தியுள்ளது. கட்டுப்பாடற்ற ஏஐ திறன்கள் பாதுகாப்பு நடவடிக்கைகளை மிஞ்சிவிடும் அபாயத்தை தொடர்ந்து எச்சரித்து வருகிறது. அதன் தலைமை செயல் அதிகாரி டாரியோ அமோடெய், மோசமான நிலைமைகளுக்கான திட்டமிடல் அவசியம் என வலியுறுத்தி, "மாடல்கள் விரைவில் நம்மை விட பல விஷயங்களில் சிறப்பாக செயல்படும்" என சமீபத்தில் தெரிவித்துள்ளார். அன்த்ரோபிக்கின் பொறுப்பான அளவீட்டு கொள்கையில், அலுவலகத்தில் மறைந்துள்ள சாதனங்களை கண்டறியும் பாதுகாப்பு நடவடிக்கைகள், மற்றும் சக்திவாய்ந்த மாடல்கள் வெளியீட்டுக்கு முன் மதிப்பீடு செய்யும் நிர்வாக ஆபத்து குழு ஆகியவை அடங்கும்.
$300 பில்லியன் மதிப்பீட்டைக் கொண்ட ஓபன் ஏஐ, வேறுபட்ட அணுகுமுறையை பின்பற்றி வெளிப்படைத்தன்மை முயற்சிகளை முன்னிலைப்படுத்துகிறது. மே 2025-இல், நிறுவனம் தனது 'பாதுகாப்பு மதிப்பீடு மையத்தை' அறிமுகப்படுத்தியது. இதில், அதன் மாடல்கள் தீங்கு விளைவிக்கும் உள்ளடக்கம், ஜெயில்பிரேக், தவறான தகவல் போன்ற பாதுகாப்பு சோதனைகளில் எவ்வாறு மதிப்பெண்கள் பெறுகின்றன என்பதைக் காட்டுகிறது. முக்கிய மாடல் வெளியீடுகளுக்கு ஏற்ப இந்த தரவுகளை தொடர்ந்து புதுப்பிப்பதாக ஓபன் ஏஐ உறுதியளித்துள்ளது. இருப்பினும், சமீபத்திய 'பிரிபேர்ட்னஸ் ஃபிரேம்வொர்க்' புதுப்பிப்புகள் கவலைக்குரியதாக உள்ளன; போட்டியாளர்கள் பாதுகாப்பு இல்லாமல் ஆபத்தான மாடல்களை வெளியிட்டால், ஓபன் ஏஐ தனது பாதுகாப்பு தேவைகளை "சரிசெய்யலாம்" என தெரிவித்துள்ளது.
கூகுள் டீப்பைண்ட், மிகவும் முறையான அணுகுமுறையை பின்பற்றுகிறது. ஏப்ரல் 2025-இல், AGI (பொது ஏஐ) பாதுகாப்பு குறித்து 145 பக்க விரிவான ஆய்வுக் கட்டுரையை வெளியிட்டது. அதன் 'ஃப்ரண்டியர் பாதுகாப்பு கட்டமைப்பு', ஏஐ ஆபத்துகளை நான்கு பிரிவுகளாக வகைப்படுத்துகிறது: தவறான பயன்பாடு, தவறான சீரமைப்பு, விபத்துகள் மற்றும் கட்டமைப்பு ஆபத்துகள். டீப்பைண்டின் திட்டம், வலுவான பயிற்சி, கண்காணிப்பு மற்றும் பாதுகாப்பு நடைமுறைகள் மூலம் படிப்படியாக முன்னேற்றம் காண்பதை வலியுறுத்துகிறது. நிறுவனம், இணை நிறுவனர் ஷேன் லெக் தலைமையில் AGI பாதுகாப்பு குழுவை அமைத்துள்ளது; அப்போல்லோ, ரெட்வுட் ரிசர்ச் போன்ற இலாப நோக்கற்ற ஏஐ பாதுகாப்பு ஆராய்ச்சி அமைப்புகளுடன் இணைந்து பணியாற்றுகிறது.
இந்த வேறுபட்ட உத்திகள், வேகமான ஏஐ திறன்கள் வளர்ச்சி மற்றும் வலுவான பாதுகாப்பு நடைமுறைகள் செயல்படுத்தும் தேவையின் இடையிலான அடிப்படை பதற்றத்தைக் காட்டுகின்றன. ஏஐ அமைப்புகள் மனித மட்டத்தை எட்டும் நிலையில், வெளிப்படையான தரநிலைகள் கொண்ட ஒருங்கிணைந்த, துறைமுகப்பு பாதுகாப்பு கூட்டமைப்பு அவசியம் எனத் தெரிகிறது.
ஒருங்கிணைந்த பாதுகாப்பு தரநிலைகள் இல்லாமல், முன்னேற்ற போட்டியில் நிறுவனங்கள் பாதுகாப்பை தள்ளிப் போடக்கூடும் என நிபுணர்கள் எச்சரிக்கின்றனர். அன்த்ரோபிக்கின் ஜாக் கிளார்க் கூறுகையில், "இந்த சக்திவாய்ந்த அமைப்புகள் பரவலாக பயன்படுத்தப்படுவதற்கு முன், ஆபத்துகளை அடையாளம் காணவும், குறைக்கவும் வலுவான நடைமுறைகள் தேவை" எனக் குறிப்பிட்டுள்ளார்.