Amazon Web Services (AWS) har introducerat en banbrytande kylteknik för att tackla en av AI-världens största infrastrukturella utmaningar: att hantera den enorma värme som dagens kraftfulla AI-processorer genererar.
In-Row Heat Exchanger (IRHX) är AWS:s skräddarsydda lösning för att kyla Nvidias senaste generation av grafikkort (GPU:er), vilka är avgörande för att träna och köra stora AI-modeller men förbrukar enorma mängder energi. Traditionella luftkylsystem, som räckte för tidigare GPU-generationer, klarar helt enkelt inte av de termiska kraven från Nvidias Blackwell-baserade chips.
"De skulle ta upp för mycket golvyta i datacentret eller öka vattenförbrukningen avsevärt," förklarade Dave Brown, Vice President för Compute and Machine Learning Services på AWS, om varför befintliga kylsystem inte räckte till. IRHX löser dessa begränsningar genom att cirkulera kyld vätska nära serverraderna via ett system av pumpenheter, vattenfördelningsskåp och fläktbatterier, vilket effektivt avleder värme från tätt packade GPU:er utan att hela datacentret behöver byggas om.
Kyltekniken samverkar med AWS:s nyligen lanserade P6e-instanser, som bygger på Nvidias GB200 NVL72-plattform – ett superdatorsystem med 72 Blackwell-GPU:er sammankopplade i ett enda rack. Denna konfiguration levererar 360 petaflops beräkningskraft och över 13 TB minne, vilket gör det möjligt för kunder att träna betydligt större AI-modeller snabbare och mer effektivt.
Utöver prestandafördelarna använder IRHX en "sluten krets"-mekanism som återcirkulerar kylvätskan utan att öka vattenförbrukningen, vilket gör systemet miljömässigt hållbart. AWS uppskattar att de nya kylsystemen kan minska den mekaniska energiförbrukningen med upp till 46 % vid maximal kylbelastning jämfört med tidigare konstruktioner.
Utvecklingen av IRHX ligger i linje med AWS:s bredare strategi att ta fram skräddarsydda infrastrukturkomponenter. Under de senaste åren har bolaget investerat tungt i att utveckla egna chip, lagringssystem och nätverksutrustning. Detta har visat sig vara ekonomiskt fördelaktigt – under första kvartalet 2025 nådde AWS sin högsta rörelsemarginal sedan enhetens start.
Samtidigt som andra teknikjättar som Microsoft, Google och Meta satsar på liknande skräddarsydd hårdvara för AI-arbetslaster, behåller AWS ett konkurrensförsprång tack vare sitt omfattande globala nätverk av datacenter och erfarenhet av att rulla ut specialanpassad hårdvara i stor skala. IRHX-tekniken stärker ytterligare AWS:s position som ledare inom AI-infrastruktur och gör avancerad AI-beräkning mer effektiv, hållbar och tillgänglig.