Amazon Web Services (AWS) представила революційне рішення для охолодження, спрямоване на вирішення однієї з найгостріших інфраструктурних проблем штучного інтелекту — управління величезною кількістю тепла, яке виробляють сучасні потужні AI-процесори.
In-Row Heat Exchanger (IRHX) — це індивідуальна розробка AWS для охолодження новітніх графічних процесорів Nvidia, які є ключовими для навчання та виконання великих AI-моделей, але споживають надзвичайно багато енергії. Традиційні повітряні системи охолодження, які були достатніми для попередніх поколінь GPU, вже не справляються з тепловим навантаженням чипів на базі Nvidia Blackwell.
«Вони займали б занадто багато місця у дата-центрі або суттєво збільшили б споживання води», — пояснює Дейв Браун, віцепрезидент з обчислень і сервісів машинного навчання AWS, чому існуючі рішення вже не підходять. IRHX долає ці обмеження, циркулюючи охолоджену рідину поблизу рядів серверів через систему насосних блоків, шаф розподілу води та вентиляторних теплообмінників, ефективно відводячи тепло від щільно розташованих GPU без необхідності повної реконструкції дата-центрів.
Технологія охолодження працює у зв'язці з новими інстансами AWS P6e, які використовують платформу Nvidia GB200 NVL72 — суперкомп'ютерну систему, що містить 72 GPU Blackwell, об'єднаних в одному стелажі. Така конфігурація забезпечує 360 петафлопс обчислювальної потужності та понад 13 ТБ пам'яті, дозволяючи клієнтам швидше й ефективніше навчати значно більші AI-моделі.
Окрім продуктивності, IRHX використовує «замкнений цикл» охолодження, що дозволяє рециркулювати охолоджувач без збільшення споживання води, роблячи систему екологічно стійкою. За оцінками AWS, нові системи охолодження можуть зменшити споживання механічної енергії до 46% у пікових умовах порівняно з попередніми рішеннями.
Розробка IRHX відповідає ширшій стратегії AWS щодо створення власних інфраструктурних компонентів. Останніми роками компанія активно інвестує у розробку власних чипів, систем зберігання даних і мережевого обладнання. Такий підхід виявився фінансово вигідним — у першому кварталі 2025 року AWS досягла найвищої операційної маржі з моменту створення підрозділу.
Попри те, що інші технологічні гіганти, такі як Microsoft, Google і Meta, також розробляють власне апаратне забезпечення для AI-навантажень, AWS зберігає конкурентну перевагу завдяки широкій глобальній мережі дата-центрів і досвіду масштабного впровадження індивідуальних рішень. Технологія IRHX ще більше зміцнює позиції AWS як лідера у сфері AI-інфраструктури, роблячи передові обчислення для штучного інтелекту ефективнішими, екологічнішими та доступнішими.