사상 리더

AI 투자 보호를 위한 냉각 전략의 중요성

Josh Claman
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트상 냉각은 수백만 달러 규모의 AI 하드웨어 투자에 필수적인 보험 역할을 합니다.
더 보기
  • 상 냉각은 수백만 달러 규모의 AI 하드웨어 투자에 필수적인 보험 역할을 합니다.
  • 단상 수냉식은 AI의 극한 열 요구에 대처할 때 치명적 고장의 위험이 있습니다.
  • NVIDIA 전문가는 단상 냉각 기술의 조만간 도태를 예측했습니다.

데이터 센터 운영자는 구식 냉각 기술에 몇百만 달러를 투자하고 있습니다. 데이터 센터 냉각에 대한 논의는 단순히 변경되는 것이 아니라 AI의 경제학에 의해 완전히 재정의되고 있습니다. 지금까지 이런 위험은 없었던 것입니다.

AI의 급속한 발전은 예상치도 못한 방식으로 데이터 센터 경제를変化시켰습니다. 한 랙의 AI 서버가 약 300만 달러인 경우 – 그것은 고급 주택의 가격과 같습니다 – 위험 계산은 근본적으로 변경됩니다. 벤 호로비츠(Andreessen Horowitz의 공동 창립자)는 최근에 데이터 센터가 이러한巨額 하드웨어 투자를 재정적으로 관리하지 않으면 “매우 빠르게 위험에 처할 수 있다”고 경고했습니다.

이 새로운 현실은 냉각 접근 방식을 근본적으로 재고해야 합니다. 전통적인 지표인 PUE와 운영 비용은 여전히 중요하지만, 이러한 수백만 달러의 하드웨어 투자를 보호하는 것보다 втор次적입니다. 데이터 센터 운영자가 묻는 실제 질문은: 우리의 AI 인프라 투자를 어떻게 최선으로 보호할 수 있습니까?

전통적인 냉각의 숨겨진 위험

산업계의 역사적인 수직형, 물 기반 냉각 솔루션은 AI 시대에 점점 더 받아들여지지 않는 위험을 내포합니다. 수년간 데이터 센터에 잘 서비스를 제공했지만, 오늘날의 열 부하를 관리하기 위해 더 높은 유량이 필요하기 때문에, 누수와 치명적인 고장이 발생할 위험이 증가합니다.

이것은 가상적인 위험이 아닙니다. 단 하나의 물 누수는瞬间에 수백만 달러의 AI 하드웨어를 파괴할 수 있습니다. 그리고 현재 공급이 제한된 시장에서 이러한 하드웨어의 교체 기간은 몇 개월입니다. 심지어 한 번의 치명적인 고장이 데이터 센터의 냉각 인프라 예산을 초과할 수 있습니다. 그러나 많은 운영자는 여전히 이러한 시스템에 의존하고, 구식 기술에 대한 투자를 감내하고 있습니다.

Data Center World 2024에서 NVIDIA (NVDA ) 의 데이터 센터 기계 엔지니어링 매니저인 Mohammad Tradat 박사는 “단일 상 냉각은 얼마나 오래 살아남을 것인가? 곧 단계적으로 폐지될 것입니다. 그리고 2상 냉각, 냉매 기반 냉각의 필요성이 생길 것입니다”라고 물었습니다. 이것은 단순한 의견이 아니라, 물리학적, 재정적 현실에 기반한 산업계의 합의입니다.

투자 보호를 위한 새로운 접근 방식

2상 냉각 기술은 유전체 냉매를 사용하여 이 위험을 근본적으로 변경합니다. 2상 냉각 시스템을 구현하는 비용은 일반적으로 랙당 약 20만 달러입니다. 이것은 500만 달러의 AI 하드웨어 투자를 보호하기 위한 보험료로 볼 수 있습니다. 이것을 перспектив적으로 보면, 이는 4%의 프리미엄입니다. 이것은 다른巨額 비즈니스 투자에 대한 보험료보다 훨씬 낮습니다. 비즈니스 사례는 AI 훈련 중단 및 계획되지 않은 다운타임 동안의闲置 인프라 비용을 고려하면 더욱 명확해집니다.

데이터 센터 운영자와 재정적 이해관계자들은 2상 냉각에 대한 투자를 위험 관리와 투자 보호의 관점에서 평가해야 합니다. 관련 지표는 운영 비용이나 에너지 효율성뿐만 아니라 보호되는 하드웨어의 총 가치, 잠재적인 고장 시나리오의 비용, 차세대 하드웨어에 대한 미래 보장 가치, 냉각 투자에 대한 위험 조정된 수익률을 포함해야 합니다.

AI가 데이터 센터 인프라의 밀도와 가치를 높일수록, 산업계는 냉각 전략에 대한 접근 방식을 발전시켜야 합니다. 2상 냉각으로 전환하는 것이 아니라 언제 그리고 어떻게 전환할 것인지를 결정하는 것이 중요합니다. 기존 운영과 투자에 대한 위험을 최소화하면서 전환하는 것입니다.

지능적인 운영자는 이미 이 전환을 시작했습니다. 그러나 다른 사람들은แพ한 교훈을 배우게 될 위험에 처해 있습니다. 한 랙의 비용이 많은 데이터 센터의 연간 운영 예산을 초과하는 시대에, 구식 냉각 기술에 대한 투자는 단순히 위험한 것이 아니라, 잠재적으로 재난적인 것입니다. 지금 행동해야 합니다. 그 위험이 현실이 되기 전에 말입니다.

Josh Claman은 Accelsius의 상임 이사회 의장이자 창립 CEO입니다. Accelsius는 AI 데이터센터용 2상 직접 칩 액체 냉각 기술의 글로벌 선도 기업입니다. 그는 AI 인프라가 지역사회에 부과하는 막대한 에너지와 물 수요라는 업계의 시급한 문제를 해결하기 위해 2022년 회사를 공동 설립했습니다. 그의 리더십 아래 회사는 차세대 AI 칩의 열 관리 요구에 맞춘 폐쇄형 무수 냉각 플랫폼 NeuCool을 개발했습니다. 이 플랫폼은 기존 공랭 방식보다 최대 50%의 에너지를 절약하면서 시설이 지역 수자원 공급에 의존하지 않도록 합니다.

Claman은 30년 이상의 글로벌 기술 리더십 경험을 보유하고 있습니다. 이전에는 Dell Technologies의 미주 공공·대기업 부문 부사장으로서 북미와 남미의 수십억 달러 규모 사업부를 총괄했고, Dell UK의 총괄 책임자도 맡았습니다. 그의 경력은 다섯 대륙에 걸쳐 있으며 AT&T와 NCR의 고위직도 포함합니다. 이후 ReachLocal의 사장, 3D 프린팅 선도 기업 Stratasys의 최고사업책임자, 디지털 헬스 기업 Rimidi의 CEO를 역임했습니다.

일리노이대학교 어배너샴페인에서 역사학과 정치학 학사 학위를 높은 우등(High Distinction)으로 취득했으며, 사우스캐롤라이나대학교 Darla Moore School of Business에서 MBA를 받았습니다. 기술·에너지·공공정책이 만나는 영역에 관해 자주 글을 쓰고 강연하며, 북미와 유럽의 포럼에서 데이터센터의 지속가능성을 다뤘습니다. 그는 업계가 장기적으로 사업을 지속할 수 있는 기반이 기술적 성능뿐 아니라 지역사회의 신뢰에도 달려 있다고 믿습니다.