Amazon Web Services (AWS) a introdus o soluție revoluționară de răcire pentru a aborda una dintre cele mai presante provocări de infrastructură ale AI: gestionarea căldurii imense generate de procesoarele AI de ultimă generație.
In-Row Heat Exchanger (IRHX) reprezintă abordarea personalizată a AWS pentru răcirea celor mai noi unități de procesare grafică (GPU) de la Nvidia, esențiale pentru antrenarea și rularea modelelor AI de mari dimensiuni, dar care consumă cantități uriașe de energie. Sistemele tradiționale de răcire cu aer, suficiente pentru generațiile anterioare de GPU-uri, nu mai pot face față cerințelor termice ale cipurilor bazate pe arhitectura Blackwell de la Nvidia.
„Acestea ar ocupa prea mult spațiu pe podeaua centrului de date sau ar crește semnificativ consumul de apă”, a explicat Dave Brown, Vicepreședinte al diviziei Compute and Machine Learning Services din cadrul AWS, referindu-se la motivele pentru care soluțiile existente de răcire nu erau adecvate. IRHX rezolvă aceste limitări prin circularea unui lichid răcit aproape de rândurile de servere, folosind un sistem de unități de pompare, dulapuri de distribuție a apei și bobine cu ventilatoare, eliminând eficient căldura de la GPU-urile dens amplasate fără a necesita reproiectarea completă a centrelor de date.
Tehnologia de răcire funcționează în tandem cu noile instanțe P6e lansate de AWS, care utilizează platforma Nvidia GB200 NVL72—un sistem de supercomputing ce conține 72 de GPU-uri Blackwell interconectate într-un singur rack. Această configurație oferă 360 petaflops de putere de calcul și peste 13TB de memorie, permițând clienților să antreneze modele AI mult mai mari, mai rapid și mai eficient.
Dincolo de beneficiile de performanță, IRHX utilizează un mecanism de răcire „în circuit închis” care recirculă agentul de răcire fără a crește consumul de apă, ceea ce îl face sustenabil din punct de vedere ecologic. AWS estimează că noile sale sisteme de răcire pot reduce consumul de energie mecanică cu până la 46% în condiții de răcire maximă, comparativ cu modelele anterioare.
Dezvoltarea IRHX se aliniază cu strategia mai largă a AWS de a crea componente de infrastructură personalizate. În ultimii ani, compania a investit masiv în dezvoltarea propriilor cipuri, sisteme de stocare și echipamente de rețea. Această abordare s-a dovedit profitabilă—în primul trimestru al anului 2025, AWS a înregistrat cea mai mare marjă operațională de la înființarea diviziei.
În timp ce alți giganți tehnologici precum Microsoft, Google și Meta urmăresc strategii similare de hardware personalizat pentru sarcinile AI, AWS păstrează un avantaj competitiv datorită rețelei sale globale extinse de centre de date și experienței în implementarea la scară a hardware-ului personalizat. Tehnologia IRHX consolidează și mai mult poziția AWS ca lider în infrastructura AI, făcând calculul AI avansat mai eficient, sustenabil și accesibil.