AI의 심판: 인프라가 왜 가장 중요할까

AI는 우리가 살고 있는 시대에 가장 결정적인 기술이며, 비즈니스 풍경을 다시 그릴 수 있는 주요 전환점에 접근하고 있습니다.

적용은 급증하고 있으며, 78%의 기업이 2025년에 AI를 배포하고 있으며 2030년까지 1.81조 달러의 시장 예측이 있습니다. 그러나 이러한 성장背後에는 더 어려운 진실이 있습니다. 많은 기업이 AI를 실제로, 확장 가능하며 구체적인 결과로 번역하는 데 어려움을 겪고 있습니다. AI를 실행하기 위해 필요한 운영 변경을 하지 않고 AI를 채택하는 것으로 밝혀지고 있습니다.

同じ 시간에, AI를 뒷받침하는 인프라는 필요한 성장 속도를 따라가지 못하고 있습니다. 조직과 모델은 여전히 사용 가능한 GPU 컴퓨팅에 의해 제한되고 있으며, 전 세계적으로 사용 가능한 데이터 센터 용량은 역대 최저 수준에 있습니다. 새로운 AI 용량은 전력 가용성, 빌드 타임라인 및 노동력 부족에 의해 제한됩니다.

이것이 AI의 심판입니다 – 필요한 속도로 AI를 구축하고 채택하는 것과 전통적인 모델에 의해 제한되는 것 사이의 간격입니다. 2035년까지, 이 간격이 오늘의 회사 중 절반을 청구할 수 있습니다. 경주는 진행 중입니다: 적응하거나 죽습니다.

AI의 약속을 실현하는 것

수년간의 헤드라인을 잡는, 수十ギガワット의 발표之后, 조직은终于今年에 실제로 시험을 받게 될 것입니다. 누가真正로 실현하고 누가 단지 헤드라인과 프레스 릴리즈에 의존하여 대화에 참여하는지입니다.

시행과 실행 사이의 차이는 더 분명해질 것입니다. 특히 AI ROI가 실제로 이사회에서 중점적으로 논의되는 오늘날입니다. 승자는 전체 스택을 함께 가져올 수 있는 조직이 될 것입니다. 즉, GPU 공급, 전력, 자본 및 탄력적인 공급망을 증명하고, 마케팅뿐만 아니라 운영과 수익에서 이를 증명할 수 있는 조직입니다. 이러한 조직은 빠르게 성장하고 장기적인 리더로 등장할 것입니다. 창의적인 발표에 고정된 조직은 뒤처질 것입니다. 그리고 두 그룹 사이의 간격은 계속 커질 것입니다.

제한 요인

컴퓨팅의 규칙은 근본적으로 변경되었습니다. 2019년 이후, AI 모델을 뒷받침하는 컴퓨팅 파워는 약 10개월마다 두 배로 증가했습니다. 제네릭 AI의 도래는 성장을 가속화했으며, 하드웨어 수명주기는 압축되었으며 NVIDIA의 극단적인 공동 설계는 더 빠르게 진행될 것입니다. 그러나 대부분의 데이터 센터는 여전히 전통적인 워크로드를 위해 설계되었으며, 현대적인 GPU 컴퓨팅의 전력 밀도, 냉각 요구 및 트래픽 패턴을 위해 설계되지 않았습니다.

전통적인 접근 방식은 AI 주도적인 변화에 따라가지 못할 것입니다. 전통적인 환경에서 AI 워크로드를 실행하려고 하는 것은 빠르게 개선되는 포뮬러 1 엔진을 패밀리 카에 연결하는 것과 같습니다. 차체는 성능과 변화를 처리하기 위해 설계되지 않았습니다. 그리고 전통적으로 구축된 데이터 센터가 온라인으로 전환되면, 하드웨어는 이미 그 설계 매개변수보다 앞서게 됩니다.

전체 산업을 통해, 전통적인 인프라에 수십억 달러를 투자한 상태에서, 이는 불편한 현실을 생성합니다. 재건 비용을 흡수하거나, 이전 칩이 가치 있는 것으로 남아 있는 것을 희망하거나, 처음부터 변경하는 AI를 설계한 조직에 비해 지속적으로 뒤처지는 것입니다. 중요하게는, 리트로핏팅은 어렵습니다. 진행에는 목적을 위한 인프라가 필요합니다. 즉, 직접 칩으로의 液체 냉각, 고대역폭 네트워킹 및 재설계된 전력 시스템이 필요합니다.

상시 변경을 위한 구축

이 문제의 해결책은 완전히 새로운 인프라 접근 방식을 필요로 합니다. 이는 이미 모멘텀을 얻고 있습니다. 산업은 더 이상 고정된 시설을 구축하는 대신, 필요에 따라 배포, 업그레이드 및 교체할 수 있는 유연한 표준 단위를 향해 이동하고 있습니다. 구축된 시설은 더 이상 특정 시점을 위해 최적화되지 않습니다. 운영자는 더 높은 밀도의 세그먼트를 추가하여 칩 아키텍처와 전력 요구 사항이 변경됨에 따라 용량을 배포하고 있습니다.

이 더 유연한 접근 방식은 이제 몇 개월 안에 GPU 최적화된 용량을 제공할 수 있습니다. 오프사이트 제조와 표준 구성 요소는 시스템을 제어된 환경에서 구축 및 테스트할 수 있으므로 배포를 가속화하고 온사이트 복잡성 및 숙련된 노동력을 줄일 수 있습니다. 중요한 것은, 업그레이드는 사이트의 나머지 부분이 작동하는 동안 수행할 수 있으며, 폐기된 섹션은 재사용 및 재배치될 수 있으므로 수명이 연장되고浪費가 최소화되고 수익이 최대화됩니다.

변화하는 환경에서 적응성은 필수적입니다. 전통적인 데이터 센터 수명주기보다 성능 요구 사항이 더 빠르게 발전하는 환경에서 유연성은 이제 전통적인剛性보다 정의되는 요구 사항입니다.

심판은 이미 여기 있습니다

AI의 심판은 더 이상 미래의 시나리오가 아닙니다.それは実時間に展開しています. 지속적인 변경을 위한 엔지니어링으로 구축된 데이터 센터와 전통적인 가정을 가진 데이터 센터 사이의 간격은 이미 보입니다. 그리고 여기서 가속화될 것입니다. 이것은 단순한 기술 사이클이 아닙니다. 이것은 인프라가 구상되고, 재정되고, 제공되는 방식의 구조적 리셋입니다. 전체 스택을 함께 가져오고, 속도에 따라 실행하며, 적응성을 받아들이는 조직은 다음 10년을 정의할 것입니다. 나머지는 단순히 뒤처지는 것이 아닙니다. 그들은 관련성이 없게 될 것입니다. 이곳에서부터 시작합니다. 이것은 단순한 기술 사이클이 아닙니다. 이것은 인프라가 구상되고, 재정되고, 제공되는 방식의 구조적 리셋입니다. 전체 스택을 함께 가져오고, 속도에 따라 실행하며, 적응성을 받아들이는 조직은 다음 10년을 정의할 것입니다. 나머지는 단순히 뒤처지는 것이 아닙니다. 그들은 관련성이 없게 될 것입니다.