Amazon Web Services (AWS) predstavio je revolucionarno rješenje za hlađenje kako bi odgovorio na jedan od najvećih infrastrukturnih izazova umjetne inteligencije: upravljanje ogromnom količinom topline koju generiraju današnji snažni AI procesori.
In-Row Heat Exchanger (IRHX) predstavlja AWS-ov prilagođeni pristup hlađenju najnovije generacije Nvidia grafičkih procesora (GPU-ova), koji su ključni za treniranje i izvođenje velikih AI modela, ali troše goleme količine energije. Tradicionalni sustavi zračnog hlađenja, koji su bili dovoljni za prethodne generacije GPU-ova, jednostavno ne mogu zadovoljiti toplinske zahtjeve Nvidia Blackwell čipova.
"Zauzimali bi previše prostora u podatkovnom centru ili bi značajno povećali potrošnju vode," objasnio je Dave Brown, potpredsjednik odjela za računalne i strojno-učne usluge u AWS-u, govoreći o tome zašto postojeća rješenja za hlađenje nisu bila adekvatna. IRHX rješava ta ograničenja kruženjem ohlađene tekućine u neposrednoj blizini redova servera putem sustava pumpnih jedinica, ormara za distribuciju vode i ventilatorskih zavojnica, učinkovito uklanjajući toplinu iz gusto složenih GPU-ova bez potrebe za potpunim preuređenjem podatkovnog centra.
Ova tehnologija hlađenja radi u tandemu s novim AWS P6e instancama, koje koriste Nvidia GB200 NVL72 platformu—superračunalni sustav koji sadrži 72 Blackwell GPU-a međusobno povezana unutar jednog regala. Ova konfiguracija isporučuje 360 petaflopsa računalne snage i više od 13 TB memorije, omogućujući korisnicima brže i učinkovitije treniranje znatno većih AI modela.
Osim performansi, IRHX koristi "zatvoreni krug" hlađenja, koji recirkulira rashladnu tekućinu bez povećanja potrošnje vode, čineći ga ekološki održivim. AWS procjenjuje da njihovi noviji sustavi hlađenja mogu smanjiti potrošnju mehaničke energije do 46% tijekom vršnih uvjeta hlađenja u usporedbi s prethodnim dizajnima.
Razvoj IRHX-a uklapa se u širu AWS-ovu strategiju razvoja prilagođenih infrastrukturnih komponenti. Posljednjih godina tvrtka je značajno investirala u razvoj vlastitih čipova, sustava za pohranu i mrežne opreme. Ovakav pristup pokazao se financijski isplativim—u prvom kvartalu 2025. AWS je ostvario najveću operativnu maržu od osnutka te jedinice.
Dok i druge tehnološke kompanije poput Microsofta, Googlea i Mete razvijaju vlastite hardverske strategije za AI radna opterećenja, AWS zadržava konkurentsku prednost zahvaljujući širokoj globalnoj mreži podatkovnih centara i iskustvu u implementaciji prilagođenog hardvera na velikoj skali. IRHX tehnologija dodatno učvršćuje AWS-ovu poziciju lidera u AI infrastrukturi, čineći napredno AI računarstvo učinkovitijim, održivijim i dostupnijim.