Лідери думок

Захист вашої інвестиції в AI: чому стратегія охолодження має значення більше ніж будь-коли

mm
Опубліковано
Оновлено
Додайте Unite.AI до бажаних джерел у Google

Оператори центрів даних грають мільйони на застарілій технології охолодження. Розмова про охолодження центрів даних не просто змінюється – вона повністю переозначається економікою штучного інтелекту. Ставки ніколи не були вищими.

Швидкий розвиток штучного інтелекту трансформував економіку центрів даних способами, яких мало хто передбачав. Коли одна стійка серверів штучного інтелекту коштує близько 3 мільйонів доларів – так само, як і розкішний будинок, – розрахунок ризику фундаментально змінюється. Як недавно застеріг співзасновник Andreessen Horowitz Бен Хоровиц, центри даних, які фінансують ці величезні інвестиції в апаратне забезпечення, “можуть швидко опинитися в програші”, якщо вони не будуть ретельно керувати своєю інфраструктурною стратегією.

Ця нова реальність вимагає фундаментального перегляду підходів до охолодження. Хоча традиційні метрики, такі як PUE і операційні витрати, все ще важливі, вони є вторинними щодо захисту цих багатомільйонних інвестицій в апаратне забезпечення. Реальне питання, яке повинні ставити оператори центрів даних, звучить так: Як нам найкраще захистити нашу інвестицію в інфраструктуру штучного інтелекту?

Приховані ризики традиційного охолодження

Історична залежність галузі від одnofазних водяних рішень охолодження несе дедалі більш неприйнятні ризики в епоху штучного інтелекту. Хоча вони добре послужили центрам даних протягом років, теплові навантаження завдань штучного інтелекту виштовхнули цю технологію за межі її практичних можливостей. Причина полягає в простій фізиці: одnofазні системи вимагають вищої швидкості потоку для керування тепловими навантаженнями сьогодні, збільшуючи ризик витоків і катастрофічних відмов.

Це не гіпотетичний ризик. Одноймовірний витік води може миттєво знищити мільйони доларів апаратного забезпечення штучного інтелекту – апаратного забезпечення, яке часто має місяці тривалого часу очікування на заміну на сучасному ринку, обмеженому поставками. Вартість навіть однієї катастрофічної відмови може перевищувати бюджет інфраструктури охолодження центру даних на весь рік. Однак багато операторів продовжують покладатися на ці системи, фактично граючи свою інвестицію в штучний інтелект на застарілій технології.

На Data Center World 2024 доктор Мохаммад Традат, менеджер механічної інженерії центрів даних компанії NVIDIA, запитав: “Як довго проживе одnofазне охолодження? Воно буде скоро витіснено… і тоді з’явиться потреба в двофазному охолодженні на основі холодильних агентів”. Це не просто зростаюча думка – це стає галузевою згодою, підтриманою фізикою і фінансовою реальністю.

Новий підхід до захисту інвестицій

Технологія двофазного охолодження, яка використовує діелектричні холодильні агенти замість води, фундаментально змінює цей ризик. Вартість реалізації системи двофазного охолодження – зазвичай близько 200 000 доларів за стійку – повинна розглядатися як страховка для захисту інвестиції в апаратне забезпечення штучного інтелекту на суму 5 мільйонів доларів. Щоб поставити це в перспективу, це премія в 4% для захисту вашого активу – суттєво нижча, ніж страхові ставки для інших багатомільйонних бізнес-інвестицій. Бізнес-кейс стає ще чіткішим, коли ви враховуєте потенційні витрати на порушення навчання штучного інтелекту та простій інфраструктури під час непередбачених відключень.

Для операторів центрів даних і фінансових зацікавлених сторін рішення про інвестування в двофазне охолодження повинно оцінюватися через призму управління ризиками та захисту інвестицій. Відповідні метрики повинні включати не тільки операційні витрати або енергетичну ефективність, але також загальну вартість апаратного забезпечення, яке підлягає захисту, вартість потенційних сценаріїв відмов, майбутнє значення для апаратного забезпечення наступного покоління та ризик-коригований повернення на інвестиції в охолодження.

Якщо штучний інтелект продовжує підвищувати щільність і вартість інфраструктури центрів даних, галузь повинна еволюціонувати свій підхід до стратегії охолодження. Питання не полягає в тому, чи перейти на двофазне охолодження, а коли і як здійснити цей перехід, мінімізуючи ризик для існуючих операцій та інвестицій.

Розумні оператори вже здійснюють цей перехід, тоді як інші ризикують дізнатися про це дорогим уроком. У епоху, коли одна стійка коштує більше, ніж багато центрів даних витрачають на свій річний операційний бюджет, гра на застарілій технології охолодження не тільки ризикована, а й потенційно катастрофічна. Час діяти – тепер, перш ніж цей ризик стане реальністю.

mm

Джош Кламан є виконавчим головою та засновником компанії Accelsius, світовим лідером у сфері двофазної прямої рідкої охолоджувальної технології для центрів обробки даних штучного інтелекту. Він заснував Accelsius у 2022 році, щоб вирішити одну з найбільш гострих проблем галузі: величезні енергетичні та водні потреби, які штучний інтелект ставить перед громадами. Під його керівництвом компанія розробила NeuCool, закриту безводну охолоджувальну платформу, розроблену для теплових вимог наступного покоління чіпів штучного інтелекту, яка забезпечує до 50% енергозбереження порівняно з традиційним повітряним охолодженням, одночасно ліквідуючи залежність об'єктів від місцевих водопостачань.

Кламан має понад 30 років досвіду керівництва у сфері глобальної технології. Раніше він обіймав посаду віце-президента з питань державної та великої підприємства для Америк у компанії Dell Technologies, керуючи бізнес-одиницями вартістю мільярди доларів у Північній та Південній Америці, а також посаду генерального менеджера Dell UK, що було частиною кар'єри, яка охопила п'ять континентів та включала керівні посади в компаніях AT&T та NCR. Пізніше він обіймав посаду президента ReachLocal, головного бізнес-офіцера у компанії 3D-принтера Stratasys та виконавчого директора цифрової компанії зі здоров'я Rimidi.

Кламан здобув ступінь бакалавра з високими відзнаками з історії та уряду в Університеті Іллінойсу в Урбана-Шампейн та ступінь магістра ділового адміністрування в школі бізнесу Дарли Мур у Університеті Південної Кароліни. Він пише та виступає часто на теми перетину технологій, енергетики та державної політики, а також виступав на форумах щодо сталості центрів обробки даних у Північній Америці та Європі. Він вважає, що довгострокова ліцензія галузі на діяльність залежить так само від довіри громади, як і від технічних показників.