Amazon Web Services (AWS) har introduceret en banebrydende køleløsning, der adresserer en af AI-verdenens største infrastrukturelle udfordringer: håndteringen af den enorme varme, som nutidens kraftfulde AI-processorer genererer.
In-Row Heat Exchanger (IRHX) er AWS’ specialudviklede tilgang til køling af Nvidias nyeste generation af grafikkort (GPU’er), som er afgørende for træning og drift af store AI-modeller, men som samtidig bruger enorme mængder energi. Traditionelle luftkølingssystemer, der var tilstrækkelige for tidligere GPU-generationer, kan ganske enkelt ikke håndtere de termiske krav fra Nvidias Blackwell-baserede chips.
“De ville optage for meget gulvplads i datacentret eller øge vandforbruget markant,” forklarer Dave Brown, Vice President for Compute and Machine Learning Services hos AWS, om hvorfor eksisterende køleløsninger ikke var tilstrækkelige. IRHX løser disse begrænsninger ved at cirkulere nedkølet væske tæt på serverrækkerne gennem et system af pumpestationer, vandfordelingsskabe og blæser-coils, hvilket effektivt fjerner varmen fra de tætpakkede GPU’er uden at kræve omfattende ombygninger af datacentrene.
Køleteknologien arbejder sammen med AWS’ netop lancerede P6e-instancer, der udnytter Nvidias GB200 NVL72-platform – et supercomputersystem med 72 Blackwell-GPU’er forbundet i ét rack. Denne konfiguration leverer 360 petaflops beregningskraft og over 13TB hukommelse, hvilket gør det muligt for kunder at træne langt større AI-modeller hurtigere og mere effektivt.
Ud over ydeevnefordelene benytter IRHX en “lukket kredsløbs”-kølemekanisme, hvor kølevæsken recirkuleres uden øget vandforbrug, hvilket gør løsningen miljømæssigt bæredygtig. AWS vurderer, at de nye kølesystemer kan reducere det mekaniske energiforbrug med op til 46% under spidsbelastning sammenlignet med tidligere design.
Udviklingen af IRHX flugter med AWS’ overordnede strategi om at udvikle skræddersyede infrastrukturløsninger. I de senere år har virksomheden investeret massivt i at skabe egne chips, lagersystemer og netværksudstyr. Denne tilgang har vist sig økonomisk fordelagtig – i første kvartal af 2025 opnåede AWS sin højeste driftsmargin siden enhedens oprettelse.
Mens andre teknologigiganter som Microsoft, Google og Meta forfølger lignende strategier med specialudviklet hardware til AI-arbejdsbelastninger, fastholder AWS en konkurrencefordel gennem sit omfattende globale datacenter-netværk og erfaring med udrulning af specialhardware i stor skala. IRHX-teknologien styrker yderligere AWS’ position som førende inden for AI-infrastruktur og gør avanceret AI-beregning mere effektiv, bæredygtig og tilgængelig.