Amazon Web Services (AWS) ने AI के सबसे बड़े इंफ्रास्ट्रक्चर चुनौतियों में से एक—आज के शक्तिशाली AI प्रोसेसरों द्वारा उत्पन्न अत्यधिक गर्मी को नियंत्रित करने—के लिए एक क्रांतिकारी कूलिंग समाधान पेश किया है।
In-Row Heat Exchanger (IRHX) AWS का Nvidia की नवीनतम पीढ़ी की ग्राफिक्स प्रोसेसिंग यूनिट्स (GPUs) को ठंडा करने का कस्टम तरीका है। ये GPU बड़े AI मॉडल्स को ट्रेन और रन करने के लिए जरूरी हैं, लेकिन ये अत्यधिक ऊर्जा की खपत करते हैं। पारंपरिक एयर कूलिंग सिस्टम, जो पिछली GPU पीढ़ियों के लिए पर्याप्त थे, Nvidia के Blackwell-आधारित चिप्स की थर्मल मांगों को संभालने में असमर्थ हैं।
"वे या तो बहुत अधिक डेटा सेंटर फ्लोर स्पेस ले लेते या जल उपयोग को काफी बढ़ा देते," AWS के कंप्यूट और मशीन लर्निंग सर्विसेज के वाइस प्रेसिडेंट डेव ब्राउन ने बताया कि मौजूदा कूलिंग समाधान क्यों अपर्याप्त थे। IRHX इन सीमाओं को इस तरह दूर करता है कि यह पंपिंग यूनिट्स, जल वितरण कैबिनेट्स और फैन कॉइल्स के सिस्टम के जरिए सर्वर की कतारों के पास ठंडा तरल घुमाता है, जिससे घनी GPU रैक्स से गर्मी प्रभावी रूप से हट जाती है—वह भी बिना पूरे डेटा सेंटर के डिजाइन में बड़ा बदलाव किए।
यह कूलिंग तकनीक AWS के हाल ही में लॉन्च किए गए P6e इंस्टेंस के साथ मिलकर काम करती है, जिसमें Nvidia का GB200 NVL72 प्लेटफॉर्म है—एक सुपरकंप्यूटिंग सिस्टम जिसमें एक ही रैक में 72 Blackwell GPU इंटरकनेक्टेड हैं। यह कॉन्फ़िगरेशन 360 पेटाफ्लॉप्स की कंप्यूटिंग शक्ति और 13TB से अधिक मेमोरी देता है, जिससे ग्राहक कहीं बड़े AI मॉडल्स को पहले से अधिक तेज़ी और दक्षता से ट्रेन कर सकते हैं।
प्रदर्शन लाभों के अलावा, IRHX एक "क्लोज्ड लूप" कूलिंग मैकेनिज्म का उपयोग करता है, जिसमें कूलेंट को पुनः घुमाया जाता है और जल खपत नहीं बढ़ती, जिससे यह पर्यावरण के लिए भी टिकाऊ है। AWS का अनुमान है कि इसके नए कूलिंग सिस्टम, पिछली डिज़ाइनों की तुलना में, चरम कूलिंग स्थितियों में यांत्रिक ऊर्जा की खपत को 46% तक कम कर सकते हैं।
IRHX का विकास AWS की व्यापक रणनीति के अनुरूप है, जिसमें वह कस्टम इंफ्रास्ट्रक्चर कंपोनेंट्स विकसित कर रहा है। हाल के वर्षों में कंपनी ने अपने खुद के चिप्स, स्टोरेज सिस्टम्स और नेटवर्किंग गियर बनाने में भारी निवेश किया है। यह दृष्टिकोण वित्तीय रूप से भी लाभकारी रहा है—2025 की पहली तिमाही में, AWS ने अपनी स्थापना के बाद से सबसे अधिक ऑपरेटिंग मार्जिन हासिल किया।
जहां Microsoft, Google और Meta जैसी अन्य टेक कंपनियां भी AI वर्कलोड्स के लिए कस्टम हार्डवेयर रणनीति अपना रही हैं, वहीं AWS को अपने विशाल वैश्विक डेटा सेंटर नेटवर्क और बड़े पैमाने पर कस्टम हार्डवेयर तैनात करने के अनुभव के कारण प्रतिस्पर्धात्मक बढ़त मिलती है। IRHX तकनीक AWS की स्थिति को AI इंफ्रास्ट्रक्चर के क्षेत्र में और मजबूत बनाती है, जिससे उन्नत AI कंप्यूटिंग अधिक कुशल, टिकाऊ और सुलभ बनती है।