인공 지능의 실제 병목 현상: 전력, 냉각, 및 규모의 물리학

인공 지능은 지난 10년 동안 놀라운 속도로 발전했습니다. 더 빠른 GPU, 더 큰 클러스터, 그리고 혁신적인 아키텍처는 불가능하다고 생각했던 돌파구를 열어주었습니다. 그러나 산업이 트릴리언 파라미터 모델과 초대형 AI 공장으로 나아가면서, 다음 장벽은 알고리즘과 관련이 없습니다. 오늘날의 실제 병목 현상은 물리적인 것입니다: 전력, 냉각, 및 지구 규모에서 컴퓨팅을 지속하기 위한 인프라입니다.

질문은 더 이상 칩을 얼마나 많이 생산할 수 있는지에 대한 것이 아닙니다. 물론 칩을 운영하는 데 필요한 기가와트, 물, 및 전송 선로를 공급할 수 있는지에 대한 것입니다. 인프라는 실리콘보다 앞서갑니다. 이것이 앞으로 몇 년 동안 AI의 속도를 결정할 것입니다.

기가와트보다 기가플롭스

OpenAI의 “Stargate” 프로젝트는 Oracle과 SoftBank와 함께 진행 중이며, 미국 캠퍼스에서 거의 7 기가와트의 용량을 목표로 하고 있습니다. 이는 여러 개의 원자로와 비교할 수 있습니다. 이러한 규모에서 주요 도전은 GPU를 생산하는 것이 아니라,它们을 작동시키기 위한 발전소와 변전소를 확보하는 것입니다.

Microsoft의 수요도同樣驚人입니다. 그들의 AI 워크로드는 2030년까지 整个 뉴 잉글랜드 지역의 전기와 같은 양을 필요로 할 것입니다. 이것은 왜 회사가 재생 가능 프로젝트에 수십억 달러를 투자하고 있으며, 또한 핵융합 및 고급 핵 반응기와 같은 더 실험적인 옵션을 추구하고 있는지 설명합니다.

이 동태는 에너지 정책으로 확산되고 있습니다. PJM Interconnection, 13개 주와 워싱턴 D.C.의 6,500만 명 이상의 사람들을 위한 그리드 관리를 담당하는 지역 전력 조직에서, 공급자들은 데이터 센터에 대한 peak 수요 시에 대한 제한 메커니즘을 탐색하고 있습니다. 주요 기술 회사들은 이러한 제한에 반대하고 있지만, 규제 기관이 이러한 제한을 고려하고 있는 사실은 AI가 그리드 계획에 얼마나 중심이 되는지 보여줍니다.

냉각의 도전

전력을 공급하는 것은 문제의 반만입니다. 랙에 전력이 도달한 후, 다음 도전은 열입니다. 각 고성능 GPU는 약 700 와트를 소비하며, 랙이 수백 개의 GPU를 호스팅할 때, 밀도는 랙당 100에서 600 킬로와트에 달할 수 있습니다. 공기 냉각, 몇십 년 동안 산업 표준,는 약 40 킬로와트 이상의 랙에서는 작동할 수 없습니다. 공기 흐름의 비효율성과 재순환으로 인해.

따라서 액체 냉각이 니치에서 주류로 전환되었습니다. NVIDIA의 최신 액체 냉각 블랙웰 플랫폼은 초대형 AI 클러스터를 위해 설계되었으며, 에너지 효율은 25배, 물 효율은 300배로 개선되었습니다. 또한 Vertiv와 함께 참조 아키텍처를 개발했습니다. 이는 랙당 130 킬로와트 이상을 처리할 수 있으며, 밀도 있는 GPU 배치를 가능하게 합니다.

스타트업도 혁신을 진행 중입니다. Corintis, 스위스 회사, 칩 기판에 직접 마이크로 채널을 삽입하는 기술로, 최근 2400만 달러의 자금을 조달했습니다. 또한 Microsoft를 포함한 고객을 보유하고 있습니다. Microsoft의 연구 팀은 마이크로 유체 채널을 칩 패키징에蚀刻하여, 피크 GPU 온도를 최대 65%까지 낮추고, 전통적인 콜드 플레이트보다 3배 이상의 효율성을 달성했습니다. 이러한 기술로 인해 데이터 센터를 녹이거나 녹이기 않고 GPU를 풀 스로틀로 작동시킬 수 있습니다.

전략적 변수로서의 물

액체 냉각은 또 다른 변수를 도입합니다: 물 소비. 증발식 및 냉수 시스템은 수백 메가와트의 캠퍼스로 확장할 때, 엄청난 양의 물을 필요로 할 수 있습니다. 피닉스에서, 데이터 센터 클러스터는 일일 수백만 갤런의 물을 필요로 할 수 있습니다. 이는 가뭄에 시달리는 지역에서 우려를 불러일으킵니다.

이로 인해 물을 사용하지 않는 및 폐쇄 루프 냉각 시스템의 개발이 촉진되었습니다. IEEE Spectrum은 물 사용을 거의 없애는 전략을 문서화했습니다. 예를 들어, 밀봉된 유전체 침지욕, 건식 쿨러, 및 물이 없는 칠러가 있습니다. 한편, 일부 운영자는 폐열 재활용을 실험하고 있습니다. Aquasar 및 iDataCool과 같은 프로젝트는, 뜨거운 물을 사용하여 건물의 난방 시스템이나 흡수식 칠러를 공급할 수 있음을 보여주었습니다. 이렇게 하면 에너지의 상당 부분을 재활용할 수 있습니다.

트레이드 오프는 종종 물과 전기 사이에서 발생합니다. 폐쇄 루프 또는 건식 시스템은 더 많은 에너지를 소비하지만, 증발식 설계는 전기를 절약하지만 물을 많이 사용합니다. 물이 부족한 지역에서는 정책이 물 보존을 더욱 선호하고 있습니다.

인프라 및 그리드

또한, 인프라가 마지막 병목 현상입니다. 사이트 선정 결정은 이제 AI 경쟁의 승자와 패자를 결정합니다.

Microsoft의 800억 달러 Fairwater 캠퍼스는 전략적인 위치 선정의 중요성을 보여줍니다. 이 사이트는 315 에이커에 걸쳐 있으며, 수십만 개의 GPU를 보유하고 있으며, 변전소, 광섬유 선, 및 지하수에 대한 접근성으로 인해 선정되었습니다. 또한 폐쇄 루프 냉각을 강조하여 물의 영향을 최소화했습니다.

자신의 증가하는 부하를 지원하기 위해, Microsoft는 Brookfield와 함께 2030년까지 10.5 기가와트의 재생 가능 용량을 추가하기로 하는 랜드마크 계약을 체결했습니다.同時에, 더 실험적인 프로젝트를 지원하고 있습니다. 예를 들어, 핵융합 플랜트는 2028년까지 데이터 센터를 공급할 예정입니다. 또한 20년간의 계약으로 펜실베니아의 Three Mile Island 원자로를 재개합니다.

Amazon과 Google도 유사한 단계를 밟고 있습니다. 원자로 근처의 사이트를 확보하고, 자신의 청정 에너지 포트폴리오를 개발하고 있습니다. 아일랜드에서는 데이터 센터가 이미 모든 가구의 전기 소비량을 초과하고 있습니다. 규제 기관은 새로운 승인을 2028년까지 동결했습니다. 이는 정치와 허가가 даже 가장 잘 자금이 되는 프로젝트를 방해할 수 있음을 강조합니다.

지능형 작동: AI가 AI를 관리

흥미롭게도, AI 자체가 인프라 부담을 관리하는 데 사용되고 있습니다. 강화 학습은 생산 데이터 센터에서 냉각 시스템을 최적화하는 데 사용되어, 14에서 21%의 에너지 절약을 달성했습니다. 또한, 디지털 쌍둥이 및 예측 모델링을 사용하여 핫스팟을 예측하고, 장비를 미리 냉각하고, 작업량을 더 прохladnyj 시간이나 재생 가능 에너지 공급 기간으로 이동시키고 있습니다.

Google은 이미 기계 학습을 사용하여 데이터 센터의 냉각需求을 40%까지 줄일 수 있음을 보여주었습니다. 다른 운영자는 유사한 시스템을 채택하고 있습니다. 전기 및 냉각 비용이 증가함에 따라, 이러한 운영 절약은 필수적인 경쟁 우위를 제공합니다.

전략적 전망

트레이젝토리는 명확합니다. AI 수요는 2030년까지 전 세계 데이터 센터의 전기 사용량을 두 배로 늘릴 것입니다. 2050년까지 AI 워크로드는 전 세계 전력 소비의 중간 자릿수 비율을 차지할 것입니다. NVIDIA와 다른 칩 제조업체가 실리콘 성능을 앞으로 밀어붙이면서, AI의 실제 전방은 얼마나 빠르게 공급자가 새로운 발전, 전송 및 냉각 인프라를 구축하는지에 의해 정의될 것입니다.

AI 제품을 구축하는 회사들에게 이것은 로드맵이 점점 더 용량이 있는 곳에 묶여 있다는 것을 의미합니다. 투자자들에게 가장 가치 있는 플레이는 GPU 공급자뿐만 아니라 공급자, 전송 개발자 및 냉각 스타트업일 수 있습니다. 그리고 정책 입안자들에게, AI에 대한 논의는 윤리 및 데이터 거버넌스에 대한 질문에서 메가와트, 물 및 그리드 현대화에 대한 질문으로 이동하고 있습니다.

AI의 미래는 연구실과 칩 공장에서만 결정되지 않을 것입니다. 또한, 변전소, 냉각 루프 및 발전소에서 결정될 것입니다. 규모의 물리학 — 알고리즘의 수학만이 아니라 —이 앞으로 10년 동안 인공 지능의 속도와 범위를 결정할 것입니다.