메가 모델이 컴퓨팅 위기의 핵심은 아니다

새로운 AI 모델이 출시될 때마다—GPT 업데이트, DeepSeek, Gemini—人们은 이러한 메가 모델의 엄청난 크기, 복잡성, 그리고 점점 더 많은 컴퓨팅 자원을 요구하는 것을 주목한다. 이러한 모델이 AI 혁명의 자원需求을 정의한다는 가정이다.

그러나 이러한 가정은 틀렸다.

대형 모델은 컴퓨팅 자원을 많이 소모한다. 그러나 AI 인프라에 가장 큰 부담을 주는 것은 몇몇 메가 모델이 아니라 산업 전반에 걸쳐 특정 응용 프로그램에 맞게 세분화된 AI 모델의 침묵적인 확산이다. 이러한 모델은 모두 컴퓨팅 자원을 이전에 없던 규모로 소모한다.

LLM 간의 승자독식 경쟁이 나타나고 있지만, 전체 AI 랜드스케이프는 중앙화되는 것이 아니라 분산되고 있다. 모든 비즈니스는 단지 AI를 사용하는 것이 아니라, 자신의 필요에 맞게 맞춤형 모델을 훈련하고, 배포하고 있다. 이러한 상황이 클라우드 제공업체, 기업, 정부가 준비하지 못한 인프라 수요 곡선을 만들 것이다.

우리는 이러한 패턴을 전에 본 적이 있다. 클라우드는 IT 워크로드를 통합하지 않았고, 混合 하이브리드 생태계를 만들었다. 먼저 서버 확장이었다. 그런 다음 VM 확장이었다. 이제는 AI 확장이다. 각 컴퓨팅 波는 단순화를 이루지 못하고, 확장을 이루었다. AI도 다르지 않다.

AI 확장: 미래의 AI는 하나의 모델이 아니라 1백만 개의 모델이다

금융, 물류, 사이버 보안, 고객 서비스, 연구 개발—각 분야에는 자신의 기능을 최적화한 riêng의 AI 모델이 있다. 조직은 전체 운영을 담당하는 하나의 AI 모델을 훈련시키지 않는다. 그들은 수천 개의 모델을 훈련시킨다. 이는 더 많은 훈련 주기, 더 많은 컴퓨팅 자원, 더 많은 저장소 수요, 더 많은 인프라 확장을 의미한다.

이것은 이론적인 것이 아니다. 기술 채택에 тради적으로 주의하는 산업에서도 AI 투자는 가속화되고 있다. 2024년 McKinsey 보고서는 조직이 평균 3개의 비즈니스 기능에서 AI를 사용하고 있으며, 제조, 공급망, 제품 개발이 선두를 지키고 있다고 밝혔다(McKinsey).

의료는 대표적인 예이다. 전자 건강 기록에 AI를 통합하여 임상적 통찰력을 제공하는 Navina는 골드만 삭스로부터 5,500만 달러의 시리즈 C 자금을 유치했다(Business Insider). 에너지도 다르지 않다—산업 선도기업들은 그리드 및 플랜트 운영을 최적화하기 위해 오픈 파워 AI 컨소시엄을 설립했다(Axios).

누구도 말하지 않는 컴퓨팅 부담

AI는 이미 전통적인 인프라 모델을 깨고 있다. 클라우드가 무제한으로 확장하여 AI 성장을 지원할 수 있다는 가정은 완전히 틀렸다. AI는 전통적인 워크로드와 같이 확장하지 않는다. 수요 곡선은渐进적인 것이 아니라, 지수적인 것이며, 하이퍼스케일러는 따라가고 있지 못하다.

• 전력 제약: AI 전용 데이터 센터는 네트워크 백본이 아니라 전력 가용성에 따라 건설되고 있다.
• 네트워크 병목: 하이브리드 IT 환경은 자동화 없이 관리할 수 없게 되고, AI 워크로드는 이를更加悪化시킬 것이다.
• 경제적 압력: AI 워크로드는 한 달에 수백만 달러를 소모할 수 있으며, 이는 재정적 예측 불가능성을 초래한다.

데이터 센터는 이미 전 세계 전기 소비의 1%를 차지한다. 아일랜드에서는 이미 국가 그리드의 20%를 차지하며, 2030년까지 더욱 증가할 것으로 예상된다(IEA).

또한 GPU에 대한 압박이 증가하고 있다. 베인 앤 컴퍼니는 최근 AI 성장이 데이터 센터급 칩에 대한 폭발적인 수요를 초래하여 반도체 부족을 가져올 것이라고 경고했다(Bain).

한편, AI의 지속가능성 문제도 커지고 있다. 2024년 지속가능한 도시와 사회 분석에 따르면, 의료 분야에서 AI를 광범위하게 채택하면, 효율성을 향상시키지 않는 한 에너지 소비와 탄소排出量이 크게 증가할 수 있다(ScienceDirect).

AI 확장은 시장보다 더 큰 문제—국가 권력의 문제이다

AI 확장이 기업의 문제라고 생각한다면, 다시 생각해 보아야 한다. AI 분산의 가장 큰 원인은 민간 부문이 아니라 정부와 군사 방위 기관이다. 이들은 클라우드 제공업체나 기업이 따라갈 수 없는 규모로 AI를 배치하고 있다.

미국 정부만으로도 27개의 기관에 걸쳐 700개 이상의 응용 프로그램에서 AI를 배치했다. 이는 정보 분석, 물류, 기타 분야를 포함한다(FedTech Magazine).

캐나다는 국내 AI 컴퓨팅 능력을 확대하기 위해 7억 달러를 투자하여 주권 데이터 센터 인프라를 강화하기 위한 국가적인 도전을 시작했다(Innovation, Science and Economic Development Canada).

또한 AI 인프라를 위한 “아폴로 프로그램”이 필요하다는 목소리가 높아지고 있다. 이는 AI가 상업적 이익에서 국가적 임무로 승격되었다는 것을 강조한다(MIT Technology Review).

군사용 AI는 효율적이거나, 조정되거나, 비용을 최적화하기 위해 설계되지 않을 것이다. 그것은 국가 안보 명령, 지緣政治적 긴급성, 그리고 폐쇄적인 주권 AI 시스템의 필요에 의해 추진될 것이다. 기업들이 AI 확장을 억제하더라도, 누가 정부에게 느리게 하라고 말할 수 있을까?

국가 안보가 걸린 문제에서는 전력 그리드가 처리할 수 있는지 묻지 않는다.