데이터 센터 냉각의 3세대—그리고 대부분의 운영자가 어제의 인프라를 구축하는 이유

3년 전, 데이터 센터 산업은 액체 냉각이 필요한지 여부를 논의했다. 2년 전, 대부분의 운영자는 단상 수냉이 해결책이라고 믿었다. 오늘날, 선도적인 시설은 차세대 냉각 아키텍처로 이동하고 있는 반면, 많은 새로운 구축은 몇 년 내에 구식이 될 시스템을 잠금하고 있다.

이 분기는 이미 2027년까지 보이는 물리학과 프로세서 로드맵에 의해驱动되고 있다. 함께, 그들은 새로운 아키텍처 시대에 접어드는 냉각이란 것을 이해하는 운영자와 곧 hundreds of millions를 투자한 인프라가 다음의 AI 프로세서를 지원할 수 없다는 것을 발견할 수 있는 운영자들 사이의 분리를 만들어내고 있다.

냉각의 3세대

데이터 센터 냉각은 새로운 장애물이 극복되고 랙 밀도가 경제적으로 지원되어야 하는 각 아키텍처 시대를 통해 발전해왔다.

• 1세대: 공기 냉각 (2000–2023): 10–15kW당 랙 밀도에 도달했다. 2020년을 기준으로 경제성이崩壊하기 시작했다. 2023년까지, 공기 냉각은 대부분의 새로운 고밀도 배포에서 구식이 되었다.

• 2세대: 단상 액체 냉각 (2020–2027): 초기 액체 냉각 접근법. 물이나 PG25를 사용하여 온도 변화를 통해 열을 제거한다. 20–120kW당 랙 밀도에서 유효하지만 150kW 이상에서는 어려움을 겪고 있다. 2027년까지 프로세서가 2,000W를 초과할 때 실제적인 한계에 도달할 것으로 예상된다.

• 3세대: 2상 + 고급 열 제거 (2024–2035+): 상변화 而不是 온도 변화를 통해 열을 흡수하는 냉매를 사용한다. 150kW 이상의 랙 밀도에서 확장 가능하다. 칩에서 대기까지의 새로운 열 제거 전략을 가능하게 한다. 이미 선도적인 운영자들에 의해 배포되고 있으며 2027–2028년까지 지배할 것으로 예상된다.

각 전환은 물리학과 경제학이同時에 천장에 도달하는 브레이크 포인트를 표시한다.

2세대의 물리학적 문제

초기 2세대 배포는 단상 냉각의 한계를 나타내기 시작했다.

물 기반 시스템은 대략 1.5리터/분/킬로와트의 유량이 필요하다. 120kW 랙은 약 180리터/분이 필요하다. 250kW에서는 375리터/분으로 증가한다. 높은 유량은 연쇄적인 문제를 생성한다. 물과 글리콜은 미세한 구조를 산화시키고, 유량 속도는 약화된 핀을 침식한다. 유지 보수 요구는 많은 운영자들을 놀라게 했다: 월간 필터 교체, 상시 화학적 모니터링, 글리콜 “IV 백”이 랙에 연결되어 있다.

고장률은同じ 정도로 우려스럽다. 내부 필드 데이터는 약 4%의 물 냉각 GPU가 3년 라이프사이클 동안 누수로 인해 고장난다고 나타났다. 랙당 300만~500만 달러의 장비를 갖춘 경우, 그 손실은 2세대의 경제성을 근본적으로 깨진다.

Jacobs Engineering의 10MW 시설 분석은 또 다른 비효율성을 강조한다. 단상 시스템은 3세대 시스템보다 더 차가운 물 온도를 필요로 한다. 더 차가운 물 온도는 차일러 용량 요구와 에너지 소비를 증가시킨다.

3세대가 다른 점

3세대는真正한 아키텍처 전환을 나타낸다. 2상 냉매는 상변화 而不是 온도 변화를 통해 열을 흡수한다. 유량 속도를 4~9배로 감소시킨다. 감소된 유체 속도는 인프라 스트레스를 크게 줄이고, 콜드 플레이트의 침식을 최소화하며, 2세대에서 발생하는 많은 유지 보수 부담을 제거한다.

냉매는 또한 칩에서 대기까지의 새로운 열 제거 설계를 가능하게 한다. 이러한 설계는 이미 생산에 들어가며 3세대의 확장 가능성과 경제적 효율성을 보여주고 있다.

Jacobs Engineering이_vendor 편향을 제거하기 위해並列 10MW 참조 모델을 생성했을 때, 그 결과는 다음과 같다.

• CapEx: 1,039만 달러 (단상) vs. 1,038만 달러 (2상)

• 연간 OpEx: 104만 달러 vs. 67.9만 달러 (35% 감소)

• 5년간 총 소유 비용: 1,560만 달러 vs. 1,380만 달러 (12% 절감)

CapEx의 동등성은 많은 사람들을 놀라게 했다. 현재 2상 시스템은 더 많은 CDU가 필요하지만, 단상 설계는 복잡한 행 매니폴드, 강력한 누수 감지, 조화 필터가 필요하다. 2026년에 도착하는 차세대 CDU는 비용을 더욱 감소시켜 3세대를 더욱 경제적으로 구축할 수 있게 할 것이다.

OpEx의优势는 열역학에서 비롯된다. 2상 시스템은 동일한 칩 온도를 유지하면서 더 따뜻한 시설 물을 사용한다. 각 度를 절약하면 연간 에너지 사용량을 약 4% 감소시킨다. 이는 Jacobs가 문서화한 35%의 OpEx 감소와 일치한다.

전방향적인 운영자들은 한 단계 더 나아가서, 열 마진을 약 5% 더 많은 컴퓨팅 용량으로 변환하고 있다. 전력은 제한적이고, 각 GPU는 수익을 나타낸다. 이러한优势는 경쟁적인 차별점이 된다.

실리콘 로드맵이 문제를 강요한다

3세대로의 전환은 냉각 벤더에 의해 주도되는 것이 아니다. 프로세서 설계에 의해 결정된다.

NVIDIA의 Rubin 아키텍처는 1개 프로세서당 2,000W를 초과할 것으로 예상된다. AMD의 MI450은 유사한 궤도에 있다. 모든 주요 칩 제조사는 더 작은 풋프린트에 더 많은 성능을 집어넣고 있다. 열 밀도를 급격히 증가시킨다.

열 밀도는 와트/제곱센티미터로 측정된다. 2세대 솔루션은 물리적 및 경제적 한계에 도달한다. 유량 속도는 파괴적이 되고, 온도 델타는 불안정해지고, 시스템 비용은 지속 불가능해진다.

3세대는 이러한 현실을 위해 설계되었다. 선도적인 운영자들은 이미 250kW 랙을 지정하고 있으며, 1MW 이상으로의 명확한 경로가 있다. “어떤 것이 승리할지 보겠다”는 접근 방식은 보수적이라고 느껴질 수 있지만, 그것은 가장 큰 위험을 겪는 접근 방식이다. 실리콘 로드맵은固定되어 있다. 물리학은屈服하지 않는다. 남은 결정은 언제 행동할지이다.

브라운필드 딜레마

현재 수십억 달러가 2세대 인프라에 투자되고 있다. 36개월 내에 구속될 것이다. 오늘날 설계된 시설은 2027년 클래스 프로세서를 지원하기 위해 어려움을 겪을 것이다. 나중에 리트로핏하는 것은 오늘날 3세대를 구축하는 것보다 훨씬 더 비용이 많이 든다.

既存 사이트의 경우, 냉매-공기 시스템은 橋梁으로 служ을 수 있지만, 그것은 장기적인 해결책이 아니다. 산업의 방향은 명확하다: 3세대 아키텍처가 다음 10년의 새로운 구축을錨하게 될 것이다.

세대적 선택

모든 냉각 전환은 충분해 보였지만, 다음 세대가 구식으로 만들었다. 2020–2021년에 액체 냉각을 채택한 운영자들은 거의 2년의 배포优势를 얻었다.

같은 변곡점이 다시 발생하고 있다. 물리학은 증명되었다. 경제학은 독립적인 분석에 의해 검증되었다. 프로세서 로드맵은 전환을 불가피하게 만들었다.

질문은 전환是否 발생할 것인가가 아니다. 그것은 당신이 그것을 주도할 것인가, 아니면 2세대가 한계에 도달했을 때 강제로 전환해야 할 것인가이다.

오늘날 설계된 데이터 센터는 2030년대까지 운영될 것이다. 3세대 아키텍처를 구축하면 AI 시대에 적합한 상태로 유지될 수 있다. 구식이 되기 전에 안정화되기 전에 제약된 자산이 되지 않도록 한다.

데이터 센터 냉각의 미래는 세대적 전환이다. 그리고 3세대는 이미 여기 있다.