menu
close

ஏஐ முடிவு செலவுகளை கட்டுப்படுத்த OpenAI, Google TPU-களை சோதனை செய்கிறது

ஏஐ முடிவு (inference) செலவுகள் அதிகரித்து, OpenAI தனது கணினி செலவுகளில் 50%க்கும் மேற்பட்டதை இதற்காகவே பயன்படுத்தி வருகிறது. இதை சமாளிக்க, OpenAI தற்போது Google-ன் Tensor Processing Unit (TPU) ஹார்ட்வேர்-ஐ சோதனை செய்து வருகிறது. இது NVIDIA-வின் ஹார்ட்வேர் மீதான சார்பை குறைக்கும் முக்கியமான நகர்வாகும். Microsoft-ன் கட்டமைப்பில் இருந்து மட்டும் சார்ந்திருப்பதைவிட விலகி, பல்வேறு தொழில்நுட்ப நிறுவனங்களுக்கு இடையே போட்டியை உருவாக்கும் வகையில் இந்த முயற்சி அமைந்துள்ளது.
ஏஐ முடிவு செலவுகளை கட்டுப்படுத்த OpenAI, Google TPU-களை சோதனை செய்கிறது

உலகின் மிகப்பெரிய NVIDIA GPU வாடிக்கையாளர்களில் ஒன்றான OpenAI, தற்போது தனது ஏஐ அமைப்புகளுக்கு (உதாரணமாக ChatGPT) சக்தி வழங்க Google-ன் Tensor Processing Unit (TPU)-களை சோதனை செய்து வருகிறது. கணினி செலவுகள் அதிகரித்து வரும் நிலையில், குறைந்த செலவில் அதிக செயல்திறன் பெறும் மாற்று வழிகளை OpenAI தேடி வருகிறது.

தொழில்துறை ஆய்வாளர்களின் கூற்றுப்படி, ஏஐ முடிவு செயல்முறை (inference) தற்போது OpenAI-யின் கணினி செலவுகளில் 50%க்கும் அதிகமாக பயன்படுத்தப்படுகிறது. குறிப்பாக பழைய தலைமுறை TPU-கள், NVIDIA GPU-களுடன் ஒப்பிடும்போது, ஒரு முடிவுக்கு (inference) குறைந்த செலவில் செயல்பட முடியும். புதிய NVIDIA சிப்களுடன் ஒப்பிடும்போது அதிக செயல்திறன் இல்லாவிட்டாலும், TPU-களின் தனிப்பட்ட வடிவமைப்பு ஆற்றல் வீணாவதை குறைத்து, பெரிய அளவில் பயன்படுத்தும்போது செலவு குறைவாக இருக்கிறது என்று Forrester நிறுவனத்தின் துணைத் தலைவர் சார்லி டாய் விளக்குகிறார். தொழில்துறை மதிப்பீடுகளின்படி, Google-க்கு AI கணிப்பொறி சக்தியை, உயர்தர NVIDIA GPU-களை வாங்கும் நிறுவனங்களுடன் ஒப்பிடும்போது சுமார் 20% செலவில் பெற முடியும். இதனால் 4-6 மடங்கு செலவு சிக்கனத்தை பெற முடியும்.

இருப்பினும், OpenAI உடனடி பெரிய அளவில் TPU-களை பயன்படுத்த திட்டமில்லை என்று தெரிவித்துள்ளது. "Google-ன் சில TPU-களில் ஆரம்ப சோதனை மட்டுமே நடக்கிறது. பெரிய அளவில் பயன்படுத்தும் திட்டம் இல்லை" என்று OpenAI பேச்சாளர் Reuters-க்கு கூறினார். OpenAI-யின் மென்பொருள் கட்டமைப்பு பெரும்பாலும் GPU-களுக்காகவே வடிவமைக்கப்பட்டிருப்பதால், முழுமையாக மாற்றுவது சவாலாக இருக்கும் என்பதையும் இது காட்டுகிறது.

செலவு மட்டுமல்லாமல், Microsoft-ன் தரவு மைய கட்டமைப்பில் இருந்து விலகி, OpenAI பல்வேறு கணினி ஆதாரங்களை பயன்படுத்தும் வகையில் இது ஒரு முக்கியமான நகர்வாகும். OpenAI ஏற்கனவே Oracle மற்றும் CoreWeave நிறுவனங்களுடன் தனது Stargate கட்டமைப்பு திட்டத்தில் கூட்டணி அமைத்துள்ளது. மேலும், தானாகவே தனிப்பயன் ஏஐ செயலி ஒன்றையும் உருவாக்கி வருகிறது. அது இந்த ஆண்டுக்குள் tape-out கட்டத்தை அடையும் என எதிர்பார்க்கப்படுகிறது.

இந்த நகர்வு ஏஐ ஹார்ட்வேர் சந்தையில் பெரிய தாக்கத்தை ஏற்படுத்தும். OpenAI, TPU-களை வெற்றிகரமாக பயன்படுத்தினால், Google-ன் ஹார்ட்வேர், NVIDIA-வின் மேலாதிக்கத்திற்கு மாற்றாக அமையும். இதனால் NVIDIA விலை மாற்றம் செய்யவோ, புதுமை கொண்டு வரவோ அழுத்தம் அதிகரிக்கும். அதேசமயம் Google, Microsoft, Amazon போன்ற கிளவுட் நிறுவனங்களுக்கு இடையே ஏஐ கட்டமைப்பில் புதிய போட்டி சூழல் உருவாகும்.

Source: Computerworld

Latest News