Лідери думок

10 обов’язкових питань для забезпечення ефективної реалізації системи охолодження центру даних AI

mm
Додайте Unite.AI до бажаних джерел у Google

З ростом штучного інтелекту та високопродуктивних обчислень центри даних розширюються рекордною швидкістю. Фактично, кількість потужностей центрів даних, що будуються на кінець 2024 року, більше ніж подвоїлася порівняно з кінцем 2023 року (6 350 МВт, що будуються, проти ~3 078 МВт). Одночасно з цим, апаратне забезпечення, яке використовується, та робочі навантаження, які обробляються в цих центрах даних, стають все більш інтенсивними. Під таких швидко змінюваних умов, як ставки, так і виклики зростають.

І з тим, що середній центр даних витрачає до 40% свого всього енергетичного бюджету на охолодження, теплове управління швидко стає одним з найбільших викликів для галузі. З іншого боку, оператори центрів даних мають більше варіантів, ніж будь-коли раніше, для охолодження своїх об’єктів надійно, ефективно та економічно.

Відповідно, коли ви розглядаєте свою власну реалізацію центру даних, ось 10 обов’язкових питань, на які ви повинні відповісти, щоб запустити свою операцію швидко, а також забезпечити ефективність, надійність та стійкість на довгий термін.

Питання 1: Як швидко я можу запустити цю систему охолодження без компромісу щодо надійності?

У гонці штучного інтелекту справжнім диференціатором успіху галузі не є той, хто накопичує найбільшу кількість графічних процесорів — це той, хто запускає їх найшвидше. Час до запуску (тобто час від початку розгортання до його запуску) став новим полем битви, що визначає, як швидко підприємства можуть перетворити інвестиції в штучний інтелект на бізнес-імпакт. Лідерами будуть не тільки ті, хто має найбільші обчислювальні ресурси, а й ті, хто розблокує їх першим, прискорюючи інновації, доходи та конкурентну перевагу.

Але поспішне розгортання системи охолодження може призвести до неефективності, простою або дорогих модернізацій. Оператори повинні запитати, чи може їх вибрана система бути розгорнута швидко і витримати випробування часом. Стратегія, яка балансує швидкість реалізації з надійністю, забезпечує як негайну ринкову готовність, так і довгострокову стійкість.

Питання 2: Який метод охолодження найкраще відповідає потребам моєї реалізації?

Не існує універсального рішення для кожної реалізації центру даних. Охолодження повітрям давно стало стандартом, але воно швидко досягає своїх фізичних меж при обробці передового апаратного забезпечення та високої щільності стелажів, типових для центрів даних штучного інтелекту. Охолодження рідиною пропонує неперевершену ефективність у масштабі та майбутнє, забезпечене виконання для все більш вимогливих робочих навантажень. Гібридні підходи можуть закрити розрив, але для довгострокової перспективи центри даних штучного інтелекту будуть покладатися на рішення з охолодженням рідиною, щоб керувати все більш інтенсивними робочими навантаженнями штучного інтелекту. Вибір правильного методу охолодження рідиною залежить від типу робочого навантаження, щільності, місця розташування та інших факторів.

Існують два основних методи охолодження рідиною, які використовуються в комерційних цілях сьогодні: прямий до чипу (DTC) та охолодження зануренням. Хоча DTC зараз більш поширений, очікується, що охолодження зануренням здобуде популярність із зростанням потужності чипів. Системи DTC направляють охолоджувальну рідину безпосередньо до тепловиділяючих компонентів, таких як ЦП та ГП, через холодні пласти, пропонуючи швидкі вигоди від ефективності з мінімальними змінами інфраструктури. Однофазні системи простіші та підходять для модернізації, тоді як двофазні системи використовують холодильні агенти для досягнення вищої теплопередачі з нижчою потужністю насоса, але більшою складністю системи. Охолодження зануренням, навпаки, занурює весь сервер у діелектричні рідини — або циркулює (однофазну) або кип’ятить і конденсує у герметичних баках (двофазну).

Яке рішення правильне для вашого середовища залежить від характеру вашого апаратного забезпечення, робочих навантажень, бюджету та іншого. Але бути обізнаним про свої варіанти є життєво важливим для як короткострокової, так і довгострокової життєздатності вашого центру даних штучного інтелекту.

Питання 3: Чи підтримуватиме моя система охолодження сучасні робочі навантаження та майбутні щільності, обумовлені штучним інтелектом?

Що приводить нас до наступного великого питання: чи витримає моя система випробування часом? Попит на центри даних прискорюється за історичними нормами. Кластери навчання штучного інтелекту, наприклад, можуть вимагати в 10-20 раз більше потужності на одиницю площі, ніж традиційні корпоративні стелажі. Питання, яке оператори повинні поставити, полягає в тому, чи може їх проект охолодження забезпечити майбутні щільності без повної заміни.

Ростом штучного інтелекту, високопродуктивних обчислень (HPC) та щільнішої архітектури стелажів вже зараз тягне за собою охолодження повітрям до його меж. У дослідженні Uptime Institute 2024 року щодо систем охолодження, більшість операторів заявили, що охолодження повітрям стає недоцільним і/або занадто дорогим на будь-якому рівні вище ~20 кВт на стелаж. Однак поточні публікації галузі показують, що стелажі штучного інтелекту вже часто перевищують 100 кВт на стелаж. І ці цифри вже зростають. Nvidia нещодавно представила плани щодо свого процесора Rubin Ultra з стелажами Kyber, які перевищать 600 кВт на стелаж до 2027 року.

Відома річ, що охолодження повітрям наближається до свого кінця в реалізаціях центрів даних штучного інтелекту, оператори можуть розглядати гібридні або фазові підходи, якщо повна, зелене поле реалізація охолодження рідиною не є варіантом. Як і раніше, враховуючи величезний час і кошти, вкладені в ці проекти, довгострокова життєздатність має першорядне значення. Тому під час вибору рішень охолодження переконайтеся, що вони готові до довгостроку.

Питання 4: Які загальні витрати протягом всього життєвого циклу?

Хоча первинні витрати можуть бути ошеломлюючими в сфері центрів даних, капітальні витрати (CAPEX) становлять лише частину історії. Оператори повинні розрахувати загальні витрати на володіння (TCO), включаючи операційні витрати (OPEX), пов’язані з споживанням енергії, технічним обслуговуванням та модернізацією, коли розглядають свої рішення охолодження. Система, яка здається дорожчою спочатку, може забезпечити довгострокові економії завдяки енергетичній ефективності, зменшенню простою та збільшенню терміну служби. Правильна стратегія охолодження рідко є найдешевшою на початку — це та, яка оптимізує витрати протягом 10-15-річної життєвості об’єкта.

Пам’ятайте, ці не короткострокові реалізації. Крім того, чим більше життя ви отримуєте від цієї реалізації, тим більше цінності ви здобуваєте. Думайте не тільки про CAPEX, а й про довгострокові витрати та економію.

Питання 5: Як ця стратегія охолодження вплине на мій профіль стійкості?

Як вже згадувалося раніше, охолодження може становити до 40% або більше від загального споживання енергії центру даних. З ростом нормативних вимог та звітності ESG оператори повинні запитати: як ця система впливає на мій вуглецевий слід, споживання енергії та інші зобов’язання щодо стійкості? Рішення, які зменшують енергоспоживання або витрати ресурсів або відповідають глобальним стандартам, таким як каркас Green Grid, стають все більш бажаними, якщо не обов’язковими, для довіри інвесторів та нормативної відповідності.

Тим часом державний сектор все більше вимагає зменшення споживання енергії. Monitoring Analytics, незалежний спостерігач за середньоатлантичною мережею, у червні оприлюднив дослідження, яке показало, що 70% збільшення вартості електроенергії за минулий рік було результатом попиту центрів даних. Не дивно, що споживачі піднімають тривогу, а держави розглядають серйозні заходи для вирішення цієї проблеми, включаючи можливість примусових відключень під час періодів високого попиту. Інвестуючи в більш енергоефективні та стійкі рішення охолодження, організації можуть позиціонувати себе для подолання як публічної перцепції, так і нормативних викликів, які лежать попереду.

Питання 6: Скільки води буде споживати цей підхід до охолодження — і чи це стійко в моєму регіоні?

Великі центри даних можуть споживати до 5 мільйонів галонів води на добу. Не повинно бути сюрпризом, що нестача води стає визначальною проблемою для центрів даних, особливо в регіонах, таких як південно-західна частина США, та частинах Європи, де питання прав на воду та нестачі води призводять до підвищеної уваги до центрів даних. Щоб все зробити правильно, оператори повинні розрахувати передбачуване споживання води їхньою системою охолодження та оцінити, чи відповідає воно місцевим та регіональним реаліям (як щодо доступності, так і щодо нормативних вимог).

Не дозволяйте собі бути обманутими назвою — охолодження рідиною споживає значно менше води, ніж традиційні системи охолодження повітрям. Згідно з дослідженням, опублікованим у Nature, охолодження рідиною зменшує споживання “синьої води” центрами даних на 31-52% порівняно з традиційним охолодженням повітрям протягом життєвого циклу. Рішення охолодження, які мінімізують або ліквідують споживання води, можуть допомогти майбутньому захисту об’єктів проти екологічних та нормативних ризиків.

Питання 7: Які ризики чи обмеження пов’язані з охолодженням рідиною, і як їх можна пом’якшити?

Хоча воно пропонує неперевершені переваги щодо ефективності, стійкості та довгострокової віддачі, багато міфів досі існують щодо охолодження рідиною, особливо щодо надійності, вартості та інтеграції. На ділі, досягнення в технології, матеріалах та дизайні зробили охолодження рідиною безпечним, надійним та все більш економічним. Ключ для операторів полягає в тому, щоб оцінити ці системи за реальними даними про виконання, а не застарілими уявленнями, і проектувати з урахуванням перевірених найкращих практик.

Коли ви розглядаєте охолодження рідиною, також важливо бути обізнаним про яке рішення найкраще підходить для вашого об’єкта. З різними підходами (наприклад, прямим до чипу [DTC], зануренням) та великою кількістю виробників, які пропонують широкий спектр рішень, завжди слід проводити свою належну перевірку при розгляді реалізації охолодження рідиною.

Питання 8: Як моя конструкція охолодження вплине на використання простору та щільність стелажів?

Простір є таким же цінним, як і потужність, у сучасних об’єктах центрів даних. Стелажі високої щільності, підтримувані ефективним охолодженням рідиною, можуть суттєво зменшити вимоги до площі та розмірів об’єкта. Це, в свою чергу, дозволяє операторам або збільшувати робочі навантаження в існуючих контурах, або мінімізувати витрати на землю та будівництво для нових об’єктів. Здатність робити більше з меншим простором не тільки зменшує витрати, а й відкриває двері для значно більшої кількості життєздатних місць для будівництва. З меншими контурами розробники можуть будувати більш вільно та навіть наблизити обчислення до кінцевого користувача. Питання цих питань заздалегідь забезпечує, що конструкція охолодження відповідає як щільності, так і використанню простору.

Питання 9: Яка моя довгострокова стратегія стійкості, якщо робочі навантаження зростуть або нормативні вимоги посиляться?

Центри даних не є статичними. Несподівані сплески попиту, нові застосування штучного інтелекту та посилення вимог до ефективності/стійкості можуть швидко створити тиск на інфраструктуру. Оператори повинні запитати, чи достатньо їх стратегія охолодження адаптивна для задоволення цих часто несподіваних змін. Ефективні системи охолодження повинні бути готові до збільшення потужності, виконання нових вимог щодо відповідності та інтеграції з майбутніми технологіями.

Системи, які пропонують модульність, та виробники з надійними ланцюгами постачання допоможуть ізолювати ваш центр даних від зміщень попиту, дозволяючи вам масштабувати легше та оновлювати та інтегрувати більш легко, якщо це потрібно.

Питання 10: Чи розглядаю я охолодження як стратегічну можливість — чи просто як післядум?

Це останнє, загальне питання, можливо, є найважливішим. Коли ви розглядаєте свою систему охолодження, спочатку візьміть момент, щоб переоцінити роль охолодження в ваших загальних операціях центру даних. Занадто часто охолодження розглядається як фонова інфраструктура, коли на ділі воно є стратегічною можливістю виконання, безперебійної роботи та стійкості. Компанії, які інвестують у продуману стратегію охолодження, здобувають не тільки операційну ефективність, а й конкурентну перевагу у надійності, відповідності та довгострокових витратах.

І коли штучний інтелект продовжує ставити нові, більш інтенсивні вимоги до центрів даних, критично важливо подивитися на охолодження в довгостроковій перспективі. Не просто думайте про те, що найкраще, найшвидше або найдешевше для вашої реалізації сьогодні. Думайте про те, як ваше рішення охолодження позиціонує вас через 5, 10 або навіть 15 років. Якщо ваша система охолодження ледь задовольняє вимоги сьогодні, ви можете бути впевнені, що вона вже не буде достатньою лише через кілька років. Пам’ятайте, охолодження є центральним для загального успіху вашого об’єкта протягом усього його життєвого циклу.

Охолодження тепер центральне для довгострокового успіху центру даних — виберіть мудро

Охолодження вже не є проблемою, яка стосується лише фонової інфраструктури — воно є центральним для кожного центру даних у ближній та довгостроковій перспективі. Запитавши ці десять питань на початку, оператори можуть зменшити час реалізації, мінімізувати ризики та забезпечити, що об’єкти побудовані для стійкості в світі, керованому штучним інтелектом, який характеризується зміною та нестабільністю.

Майбутнє галузі буде визначатися не тільки тим, як швидко оператори розгортають потужності, а й тим, як інтелектуально вони проектують для довгострокової стійкості та надійності. Ті, хто розглядає охолодження як стратегічну можливість, будуть найкраще позиціоновані для лідерства в майбутньому.

Кевін Руф є глобальним директором з управління пропозиціями та захопленням для LiquidStack. Інженер-механік і PMP з більш ніж десятирічним досвідом у галузі охолодження дата-центрів, Кевін надає невід'ємні знання та лідерство у сфері рідкого охолодження.