Amazon Web Services (AWS), günümüzün güçlü yapay zekâ işlemcilerinin oluşturduğu büyük ısıyı yönetme sorununa çığır açan bir soğutma çözümüyle yanıt verdi.
In-Row Heat Exchanger (IRHX), AWS'nin, büyük yapay zekâ modellerinin eğitimi ve çalıştırılması için hayati öneme sahip ancak çok yüksek enerji tüketen Nvidia'nın yeni nesil grafik işlem birimlerini (GPU) soğutmak için geliştirdiği özel bir yaklaşım. Önceki GPU nesilleri için yeterli olan geleneksel hava soğutma sistemleri, Nvidia'nın Blackwell tabanlı çiplerinin termal gereksinimlerini karşılayamıyor.
AWS Bilgi İşlem ve Makine Öğrenimi Hizmetleri Başkan Yardımcısı Dave Brown, mevcut soğutma çözümlerinin neden yetersiz kaldığını şöyle açıkladı: "Bunlar ya çok fazla veri merkezi alanı kaplardı ya da su kullanımını önemli ölçüde artırırdı." IRHX ise, pompa üniteleri, su dağıtım dolapları ve fan serpantinlerinden oluşan bir sistemle soğutulmuş sıvıyı sunucu sıralarına yakın dolaştırarak, yoğun şekilde istiflenmiş GPU'ların ürettiği ısıyı veri merkezini baştan aşağı yenilemeye gerek kalmadan etkili biçimde uzaklaştırıyor.
Bu soğutma teknolojisi, AWS'nin yeni duyurduğu P6e bulut sunucularıyla birlikte çalışıyor. Bu sunucular, Nvidia'nın GB200 NVL72 platformunu kullanıyor—tek bir rafta 72 Blackwell GPU'nun birbirine bağlandığı bir süper bilgisayar sistemi. Bu yapılandırma, 360 petaflop işlem gücü ve 13 TB'tan fazla bellek sunarak müşterilerin çok daha büyük yapay zekâ modellerini daha hızlı ve verimli şekilde eğitmesini sağlıyor.
Performans avantajlarının ötesinde, IRHX "kapalı devre" soğutma mekanizmasıyla soğutucuyu tekrar dolaştırıyor ve su tüketimini artırmadan çevre dostu bir çözüm sunuyor. AWS, yeni nesil soğutma sistemlerinin, önceki tasarımlara kıyasla en yoğun soğutma koşullarında mekanik enerji tüketimini %46'ya kadar azaltabildiğini belirtiyor.
IRHX'in geliştirilmesi, AWS'nin özel altyapı bileşenleri üretme stratejisinin bir parçası. Şirket son yıllarda kendi çiplerini, depolama sistemlerini ve ağ donanımlarını üretmeye ciddi yatırımlar yaptı. Bu yaklaşım finansal olarak da karşılığını verdi—2025'in ilk çeyreğinde AWS, birimin kuruluşundan bu yana en yüksek faaliyet kâr marjına ulaştı.
Microsoft, Google ve Meta gibi diğer teknoloji devleri de yapay zekâ iş yükleri için benzer özel donanım stratejileri izlese de, AWS geniş küresel veri merkezi ağı ve ölçekli özel donanım dağıtımı konusundaki deneyimiyle rekabet avantajını koruyor. IRHX teknolojisi, AWS'nin yapay zekâ altyapısındaki liderliğini daha da güçlendirerek gelişmiş yapay zekâ hesaplamalarını daha verimli, sürdürülebilir ve erişilebilir kılıyor.