Amazon Web Services (AWS) telah memperkenalkan penyelesaian penyejukan termaju bagi menangani salah satu cabaran infrastruktur terbesar dalam bidang AI: menguruskan haba yang sangat tinggi yang dihasilkan oleh pemproses AI berkuasa masa kini.
In-Row Heat Exchanger (IRHX) merupakan pendekatan khas AWS untuk menyejukkan unit pemprosesan grafik (GPU) generasi terkini Nvidia, yang penting untuk latihan dan pelaksanaan model AI berskala besar tetapi menggunakan tenaga yang sangat banyak. Sistem penyejukan udara tradisional, yang mencukupi untuk generasi GPU sebelum ini, tidak lagi mampu menampung keperluan haba cip berasaskan Blackwell Nvidia.
"Ia akan mengambil terlalu banyak ruang lantai pusat data atau meningkatkan penggunaan air secara mendadak," jelas Dave Brown, Naib Presiden Perkhidmatan Pengkomputeran dan Pembelajaran Mesin di AWS, mengenai sebab penyelesaian penyejukan sedia ada tidak lagi memadai. IRHX mengatasi kekangan ini dengan mengedarkan cecair sejuk berhampiran barisan pelayan melalui sistem unit pam, kabinet pengagihan air, dan gegelung kipas, sekali gus menyingkirkan haba daripada GPU yang dipadatkan tanpa memerlukan pengubahsuaian menyeluruh pusat data.
Teknologi penyejukan ini berfungsi seiring dengan instans P6e terbaharu AWS, yang menggunakan platform Nvidia GB200 NVL72—satu sistem pengkomputeran super yang mengandungi 72 GPU Blackwell saling berhubung dalam satu rak. Konfigurasi ini menawarkan 360 petaflops kuasa pengkomputeran dan lebih 13TB memori, membolehkan pelanggan melatih model AI berskala lebih besar dengan lebih pantas dan cekap.
Selain kelebihan prestasi, IRHX menggunakan mekanisme penyejukan "gelung tertutup" yang mengitar semula penyejuk tanpa meningkatkan penggunaan air, menjadikannya lebih lestari dari segi alam sekitar. AWS menganggarkan sistem penyejukan terbaharu ini boleh mengurangkan penggunaan tenaga mekanikal sehingga 46% semasa keadaan penyejukan puncak berbanding reka bentuk terdahulu.
Pembangunan IRHX sejajar dengan strategi lebih luas AWS untuk membangunkan komponen infrastruktur tersuai. Dalam beberapa tahun kebelakangan ini, syarikat telah banyak melabur dalam mencipta cip, sistem storan, dan peralatan rangkaian sendiri. Pendekatan ini terbukti menguntungkan—pada suku pertama 2025, AWS mencapai margin operasi tertinggi sejak penubuhan unit tersebut.
Walaupun gergasi teknologi lain seperti Microsoft, Google, dan Meta turut mengorak langkah membangunkan perkakasan tersuai untuk beban kerja AI, AWS mengekalkan kelebihan daya saing melalui rangkaian pusat data global yang luas serta pengalaman melaksanakan perkakasan tersuai pada skala besar. Teknologi IRHX ini mengukuhkan lagi kedudukan AWS sebagai peneraju infrastruktur AI, menjadikan pengkomputeran AI lanjutan lebih cekap, lestari, dan mudah diakses.