์ธ๊ณต์ง๋ฅ
์ค์ AI ๋ณ๋ชฉ ํ์: ์ ๋ ฅ, ๋๊ฐ, ๋ฐ ๊ท๋ชจ์ ๋ฌผ๋ฆฌํ
인공지능은 지난 10년 동안 놀라운 속도로 발전했습니다. 더 빠른 GPU, 더 큰 클러스터, 그리고 혁신적인 아키텍처는 불가능하다고 생각했던 돌파구를 열어주었습니다. 그러나 산업이 트릴리언 파라미터 모델과 초대형 AI 공장으로 나아가면서, 다음 장벽은 알고리즘과 관련이 없습니다. 오늘날의 실제 병목 현상은 물리적인 문제입니다. 즉, 전력, 냉각, 및 지구 규모의 컴퓨팅을 유지하기 위한 인프라입니다.
질문은 더 이상 칩을 얼마나 많이 생산할 수 있는지에 관한 것이 아닙니다. 필요한 전력, 물, 및 전송선을どう 제공할 수 있는지에 관한 것입니다. 인프라는 실리콘보다 앞서 나갑니다. 인프라는 향후 몇 년 동안 AI의 속도를 결정할 것입니다.
기가와트보다 기가플롭스
OpenAI의 “Stargate” 프로젝트는 Oracle과 SoftBank와 함께 건설 중이며, 미국 캠퍼스에서 거의 7 기가와트의 용량을 목표로 합니다. 이는 여러 개의 원자로와 비교할 수 있습니다. 이러한 규모에서 주요 도전은 GPU를 생산하는 것이 아니라, 이를 작동시키기 위한 발전소와 변전소를 확보하는 것입니다.
Microsoft의 수요도同樣驚人입니다. 2030년까지 Microsoft의 AI 워크로드는 뉴 잉글랜드 지역 전체와 같은 양의 전기를 필요로 할 것입니다. 이것은 왜 회사가 재생 가능 프로젝트에 수십억 달러를 투자하고 있으며, 또한 핵융합 및 고급 원자로와 같은 더 실험적인 옵션도 추구하고 있는지 설명합니다.
이 동태는 에너지 정책으로 확산되고 있습니다. PJM Interconnection, 13개 주와 워싱턴 D.C.의 6,500만 명 이상의 인구를 관리하는 지역 전력망 조직에서, 공급자는 데이터 센터에 대한 축소 메커니즘을 탐색하고 있습니다. 주요 기술 회사들은 이러한 제한에 반대하고 있지만, 규제 당국이 이러한 제한을 고려하고 있는 사실은 AI가 그리드 계획의 중심이 되고 있음을 보여줍니다.
냉각 도전
전기를 공급하는 것은 문제의 반만입니다. 랙에 전력이 도달한 후, 다음 도전은 열입니다. 각 고급 GPU는 약 700 와트를 소비하며, 랙에 수백 개의 GPU를 호스팅할 때, 밀도는 랙당 100에서 600 킬로와트에 달합니다. 공기 냉각, 수십 년 동안 산업 표준은 약 40 킬로와트 이상의 랙에서는 효율성과 재순환으로 인해 작동하지 않습니다.
따라서 액체 냉각은 니치에서 메인스트림으로 전환되었습니다. NVIDIA의 최신 액체 냉각 블랙웰 플랫폼은 초대형 AI 클러스터를 위해 설계되었으며, 에너지 효율성은 25배, 물 효율성은 300배로 개선되었습니다. 회사는 또한 Vertiv와 참조 아키텍처를 개발했습니다. 이는 랙당 130 킬로와트 이상을 처리할 수 있으며, 밀도 있는 GPU 배치를 가능하게 합니다.
스타트업도 혁신을 진행 중입니다. Corintis, 칩 기판에 마이크로 채널을 직접 삽입하는 스위스 회사는 최근 2,400만 달러의 자금을 조달했으며, 이미 Microsoft를 포함한 고객을 확보했습니다. Microsoft의 연구 팀은 칩 패키징에 마이크로 유체 채널을刻어 넣은 것을 시연했으며, 이는 피크 GPU 온도를 최대 65%까지 줄이고, 전통적인 콜드 플레이트보다 3배 이상의 효율성을 제공합니다. 이러한 기술은 데이터 센터를 녹이기 않고 GPU를 풀 스로틀로 실행할 수 있게 해줍니다.
전략적 변수로서의 물
액체 냉각은 또 다른 변수를 도입합니다. 즉, 물 소비입니다. 증발식 및 냉각수 시스템은 수백 메가와트의 캠퍼스에서 확장할 때 엄청난 양의 물을 필요로 할 수 있습니다. 피닉스에서 데이터 센터 클러스터는 일일 수백만 갤런의 물을 필요로 할 수 있으며, 가뭄이 발생하는 지역에서는 우려를 불러일으킵니다.
이로 인해 물을 사용하지 않는 및 폐쇄 루프 냉각 시스템의 개발이 촉진되었습니다. IEEE Spectrum은 물 사용량을 거의 0으로 줄이는 전략을 문서화했습니다. 예를 들어, 밀봉된 유전체浸漬욕, 건식 냉각기, 물이 없는 냉각기 등입니다. 한편, 일부 운영자는 폐열 재사용을 실험하고 있습니다. Aquasar 및 iDataCool과 같은 프로젝트는 뜨거운 물 냉각 루프가 건물 난방 시스템이나 흡수식 냉각기를 공급할 수 있음을 보여주었습니다. 이는 에너지의 상당 부분을 재활용할 수 있습니다.
트레이드 오프는 종종 물과 전기 사이에서 발생합니다. 폐쇄 루프 또는 건식 시스템은 더 많은 에너지를 소비하지만, 증발식 설계는 전力を 절약하지만 물을大量으로 사용합니다. 물이 부족한 지역에서는 물 보존을 우선시하는 정책이 더욱 두드러지고 있습니다.
인프라 및 그리드
전력 및 냉각 솔루션이 준비된 경우에도, 최종 병목 현상은 인프라입니다. 사이트 결정은 이제 AI 경쟁의 승자와 패자를 결정합니다.
Microsoft의 8,000억 달러의 Fairwater 캠퍼스는 위치가 어떻게 중요한지 보여줍니다. 이 사이트는 315 에이커에 걸쳐 있으며, 수십만 개의 GPU를 보유하고 있으며, 변전소, 광섬유 선, 지하수에 접근할 수 있기 때문에 선택되었습니다. 설계는 또한 물의 영향을 최소화하기 위해 폐쇄 루프 냉각을 강조합니다.
증가하는 부하를 지원하기 위해 Microsoft는 Brookfield와 2030년까지 10.5 기가와트의 재생 가능 용량을 추가하기로 합의했습니다.同時에, 회사는 핵융합 플랜트를 건설 중인 Helion Energy와의 프로젝트를 지원하고 있으며, 2028년에 데이터 센터를 공급할 예정입니다. 또한, 20년간의 계약으로 펜실베니아의 Three Mile Island 원자로를 재개할 예정입니다.
Amazon과 Google도 유사한 단계를 밟고 있으며, 원자로 옆에 사이트를 확보하고, 자신의 청정 에너지 포트폴리오를 개발하고 있습니다. 아일랜드에서는 데이터 센터가 이미 모든 가구를 합친 것보다 더 많은 전력을 소비하고 있기 때문에, 규제 당국은 최소 2028년까지 신규 승인을 중단했습니다. 이는 정치와许可가 даже 가장 자금이 풍부한 프로젝트를도 방해할 수 있음을 보여줍니다.
지능형 운영: AI가 AI를 관리
흥미롭게도, AI 자체가 인프라 부담을 관리하는 데 사용되고 있습니다. 강화 학습은 생산 데이터 센터에서 냉각 시스템을 최적화하는 데 배포되어, 14에서 21%의 에너지 절약을 달성했습니다. 디지털 쌍둥이 및 예측 모델링도 핫스팟을 예측하고, 장비를 사전 냉각하고, 워크로드를 더 прохladny 시간이나 재생 가능 에너지 공급 시간으로 이동하는 데 사용되고 있습니다.
Google은 이미 기계 학습이 데이터 센터 냉각需求을 40%까지 줄일 수 있음을 보여주었습니다. 다른 운영자는 유사한 시스템을 채택하고 있습니다. 전력 및 냉각 비용이 증가함에 따라, 이러한 운영 절약은 필수적인 경쟁 우위를 제공합니다.
전략적 전망
트레이젝토리는 명확합니다. AI 수요는 2030년까지 전 세계 데이터 센터의 전기 사용량을 두 배로 늘릴 것입니다. 2050년까지 AI 워크로드만으로 전 세계 전력 소비의 중간 자릿수 비율을 차지할 것입니다. NVIDIA와 다른 칩 제조업체가 실리콘 성능을 앞으로 밀어붙이는 동안, AI의 실제 전선은 얼마나 빠르게 공급자가 새로운 발전, 전송 및 냉각 인프라를 구축할 수 있는지에 의해 정의될 것입니다.
AI 제품을 구축하는 회사에게 이는 도로 맵이 존재하는 곳에 묶여 있다는 것을 의미합니다. 투자자에게는 가장 가치 있는 플레이가 GPU 공급자뿐만 아니라 공공事業, 전송 개발자 및 냉각 스타트업일 수 있습니다. 그리고 정책 입안자에게는 AI에 대한 논의가 윤리와 데이터 거버넌스에 대한 질문에서 메가와트, 물 및 그리드 현대화에 대한 질문으로 이동하고 있습니다.
AI의 미래는 연구실과 칩 공장에서만 결정되지 않을 것입니다. 또한 부스톤, 냉각 루프 및 발전소에서 결정될 것입니다. 규모의 물리학 — 알고리즘의 수학만이 아니라 —이 향후 10년 동안 인공지능의 속도와 범위를 결정할 것입니다.
