사상 리더

AI 투자 보호를 위한 냉각 전략의 중요성

mm
Unite.AI를 Google의 선호 소스에 추가

데이터 센터 운영자는 구식 냉각 기술에 몇百만 달러를 투자하고 있습니다. 데이터 센터 냉각에 대한 논의는 단순히 변경되는 것이 아니라 AI의 경제학에 의해 완전히 재정의되고 있습니다. 지금까지 이런 위험은 없었던 것입니다.

AI의 급속한 발전은 예상치도 못한 방식으로 데이터 센터 경제를変化시켰습니다. 한 랙의 AI 서버가 약 300만 달러인 경우 – 그것은 고급 주택의 가격과 같습니다 – 위험 계산은 근본적으로 변경됩니다. 벤 호로비츠(Andreessen Horowitz의 공동 창립자)는 최근에 데이터 센터가 이러한巨額 하드웨어 투자를 재정적으로 관리하지 않으면 “매우 빠르게 위험에 처할 수 있다”고 경고했습니다.

이 새로운 현실은 냉각 접근 방식을 근본적으로 재고해야 합니다. 전통적인 지표인 PUE와 운영 비용은 여전히 중요하지만, 이러한 수백만 달러의 하드웨어 투자를 보호하는 것보다 втор次적입니다. 데이터 센터 운영자가 묻는 실제 질문은: 우리의 AI 인프라 투자를 어떻게 최선으로 보호할 수 있습니까?

전통적인 냉각의 숨겨진 위험

산업계의 역사적인 수직형, 물 기반 냉각 솔루션은 AI 시대에 점점 더 받아들여지지 않는 위험을 내포합니다. 수년간 데이터 센터에 잘 서비스를 제공했지만, 오늘날의 열 부하를 관리하기 위해 더 높은 유량이 필요하기 때문에, 누수와 치명적인 고장이 발생할 위험이 증가합니다.

이것은 가상적인 위험이 아닙니다. 단 하나의 물 누수는瞬间에 수백만 달러의 AI 하드웨어를 파괴할 수 있습니다. 그리고 현재 공급이 제한된 시장에서 이러한 하드웨어의 교체 기간은 몇 개월입니다. 심지어 한 번의 치명적인 고장이 데이터 센터의 냉각 인프라 예산을 초과할 수 있습니다. 그러나 많은 운영자는 여전히 이러한 시스템에 의존하고, 구식 기술에 대한 투자를 감내하고 있습니다.

Data Center World 2024에서 NVIDIA의 데이터 센터 기계 엔지니어링 매니저인 Mohammad Tradat 박사는 “단일 상 냉각은 얼마나 오래 살아남을 것인가? 곧 단계적으로 폐지될 것입니다. 그리고 2상 냉각, 냉매 기반 냉각의 필요성이 생길 것입니다”라고 물었습니다. 이것은 단순한 의견이 아니라, 물리학적, 재정적 현실에 기반한 산업계의 합의입니다.

투자 보호를 위한 새로운 접근 방식

2상 냉각 기술은 유전체 냉매를 사용하여 이 위험을 근본적으로 변경합니다. 2상 냉각 시스템을 구현하는 비용은 일반적으로 랙당 약 20만 달러입니다. 이것은 500만 달러의 AI 하드웨어 투자를 보호하기 위한 보험료로 볼 수 있습니다. 이것을 перспектив적으로 보면, 이는 4%의 프리미엄입니다. 이것은 다른巨額 비즈니스 투자에 대한 보험료보다 훨씬 낮습니다. 비즈니스 사례는 AI 훈련 중단 및 계획되지 않은 다운타임 동안의闲置 인프라 비용을 고려하면 더욱 명확해집니다.

데이터 센터 운영자와 재정적 이해관계자들은 2상 냉각에 대한 투자를 위험 관리와 투자 보호의 관점에서 평가해야 합니다. 관련 지표는 운영 비용이나 에너지 효율성뿐만 아니라 보호되는 하드웨어의 총 가치, 잠재적인 고장 시나리오의 비용, 차세대 하드웨어에 대한 미래 보장 가치, 냉각 투자에 대한 위험 조정된 수익률을 포함해야 합니다.

AI가 데이터 센터 인프라의 밀도와 가치를 높일수록, 산업계는 냉각 전략에 대한 접근 방식을 발전시켜야 합니다. 2상 냉각으로 전환하는 것이 아니라 언제 그리고 어떻게 전환할 것인지를 결정하는 것이 중요합니다. 기존 운영과 투자에 대한 위험을 최소화하면서 전환하는 것입니다.

지능적인 운영자는 이미 이 전환을 시작했습니다. 그러나 다른 사람들은แพ한 교훈을 배우게 될 위험에 처해 있습니다. 한 랙의 비용이 많은 데이터 센터의 연간 운영 예산을 초과하는 시대에, 구식 냉각 기술에 대한 투자는 단순히 위험한 것이 아니라, 잠재적으로 재난적인 것입니다. 지금 행동해야 합니다. 그 위험이 현실이 되기 전에 말입니다.

조시 클라만은 Accelsius의 집행 이사장 및 공동 창립자로, AI 데이터 센터를 위한 2상 직접 칩 液体 냉각 기술의 글로벌 리더입니다. 그는 2022년 Accelsius를 공동 설립하여 부문에서 가장 긴급한 도전 중 하나인 AI 인프라에 의해 지역 사회에 부과되는 엄청난 에너지 및 물 수요를 해결하기 위해 노력했습니다. 그의 리더십 아래, 회사는 NeuCool이라는 폐쇄 루프, 무수냉각 플랫폼을 개발하여 전통적인 공기 냉각과 비교하여 최대 50%의 에너지 절약을 제공하며 시설이 지역 수자원에 의존하지 않도록 했습니다.

클라만은 글로벌 기술 리더십에서 30년 이상의 경험을 가지고 있습니다. 그는 이전에 델 테크놀로지의 아메리카 지역 공공 및 대기업 부사장으로서 북미와 남미를 아우르는 수십억 달러의 비즈니스 유닛을 담당했으며, 델 UK의 일반 매니저를 역임했습니다. 그는 5개 대陸을渡る 경력을 보유하고 있으며, AT&T와 NCR에서 선임 역할을 수행했습니다. 이후 그는 리치 로컬의 사장, 3D 프린팅 선구자 스트라타시스의 최고 비즈니스 책임자, 디지털 헬스 회사 리미디의 최고 경영자로 근무했습니다.

클라만은 일리노이 주 어바나-샴페인 대학교에서 역사와 정부학을 우등으로 졸업했으며, 사우스 캐롤라이나 대학교의 달라 무어 비즈니스 스쿨에서 MBA를 취득했습니다. 그는 기술, 에너지, 공공 정책의 교차점에 대해 자주 글을 쓰고 연설하며, 북미와 유럽의 포럼에서 데이터 센터 지속 가능성에 대해 발언했습니다. 그는 산업의 장기적인 운영 라이센스는 기술적 성능만큼 지역 사회의 신뢰에 의존한다고 믿습니다.