야수 같은 전력 문제를 해결하는 통합 전압 조정기: AI의 전력 위기를 해결하는 방법

인공 지능은 배고픔을 느끼고 있습니다. 대규모 언어 모델을 훈련하고 클라우드에서 실시간 추론을 구동하는 데 필요한 계산 요구는 폭발적으로 증가하고 있습니다. 이 엄청난 식욕은 진행을 방해할 수 있는 두 번째 위기를 만들어 냅니다. 즉, 지속 불가능한 전력 수요입니다. 데이터 센터는 현대의 계산 성당으로, 세계의 전기 사용량의 상당한 부분을 차지할 것으로 예상되며, AI 작업은 주요 원동력입니다. 국제 에너지 기구(IEA)에 따르면, 데이터 센터는 2022년에 전 세계 전기 사용량의 약 2%를 차지했으며, 이 수치는 크게 증가할 것으로 예상됩니다.

이 전력 문제는 단순히巨額의 전기료와 환경적 영향에 관한 것이 아닙니다. 이는 근본적인 공학적 병목 현상입니다. AI를 구동하는 프로세서(GPU, TPU, 커스텀 ASIC)는 열벽에 부딪치고 있습니다. 더 많은 트랜지스터를 칩에 집어넣는 것만으로는 전력을 효율적으로 전달하지 못하면 칩이 과열될 수 있습니다. 이 문제는 전력을 생성하는 것뿐만 아니라, 마지막 몇 밀리미터에서 전력을 효과적으로 전달하는 것입니다. 그러나 이제는 통합 전압 조정기(IVR)라는 작은 기술이 고성능 컴퓨팅의 미래를 근본적으로 재정의하고 있습니다.

전력 공급의 “마지막 인치” 문제

IVR의 혁신을 이해하기 위해서는 먼저 고성능 칩을 전력 공급하는 전통적인 방법을 이해해야 합니다. 현대의 프로세서는 1초에 수십억 번 스위칭하는 수십억 개의 트랜지스터를 가지고 있습니다. 이러한 작업에는 정밀한, 안정적인, 저전압 DC 전원 공급이 필요합니다. 그러나 벽면에서 나오는 전력은 고전압 교류입니다. 벽면에서 실리콘까지의 전력 공급 경로는 복잡한 변환 및 조정 체인인 전력 공급 네트워크(PDN)를 포함합니다.

일반적으로 이 과정에는 여러 단계가 포함됩니다. 전력은 서버 마더보드에서 변환 및 조정되고, 최종적인 중요한 변환은 전압 조정기(VR)라는 구성 요소에 의해 처리됩니다. 이러한 VR은 일반적으로 칩 주변의 마더보드에 있는 큰, 집적되지 않은 구성 요소입니다.

이 전통적인 접근 방식은 AI 시대에 몇 가지 致命的な 결점이 있습니다:

1. 에너지 낭비: 전력은 이러한 오프칩 VR에서 마더보드와 칩의 패키징을 통해 이동해야 합니다. 이 경로의 매 밀리미터마다 저항이 발생하여 상당한 전력 손실(I2R 손실)이 발생합니다. 이 손실된 전력은 열로 방출되어 더 많은 전력을 사용하는 냉각 시스템으로 제거해야 합니다.
2. 느린 응답 시간: 프로세서가闲状态에서 전체 부하 상태로突然 전환할 때(Transient 부하라고 하는 AI 작업에서 일반적인 시나리오), 즉시적인 전류 급증을 요구합니다. 오프칩 VR은 너무 느려서 응답할 수 없으며, 暫時적인 전압 하락, 즉 “droop”이 발생할 수 있습니다. 이를 보상하기 위해 엔지니어들은 전체 시스템을 더 높은 기준 전압에서 실행하도록 설계해야 하며, 이는 더 많은 전력을浪費합니다.
3. 공간 제약: 이러한 큰, 오프칩 구성 요소는 마더보드의 귀중한 공간을 차지하며, 이 공간은 더 많은 메모리 채널, 더 빠른 인터커넥트, 또는 기타 성능 향상 기능에 사용될 수 있습니다. 프로세서 주변의 “비치 프론트 프로퍼티”는 전자 제품에서 가장贵重한 공간입니다.

온칩 전력 및 박막 자기 기술

박막 자기 기술의 최근 발전으로 인해 고성능 인덕터를 칩 또는 패키지 기판에 직접 반도체 제조 기술을 사용하여制造할 수 있게 되었습니다. 이러한 微小한, 고효율 인덕터는 전압 조정기를 칩 또는 패키지 기판에 직접 통합할 수 있게 해줍니다.

이 위치의 변화는 여러 가지 장점을 제공합니다:

• 감소된 전력 손실: 전력 공급 경로를 인치에서 마이크로미터로 단축하면 전송 중에 손실되는 에너지가 크게 줄어듭니다.
• 세분화된 전력 관리: 여러 개의 독립적인, 초저전압 전원 도메인이 각 코어 또는 기능 블록에 필요한 것을 정확하게 공급할 수 있으며, 필요하지 않은 경우 즉시 종료할 수 있습니다.
• 거의 즉각적인 응답: 패키지 내의 IVR은 나노초 안에_transient 부하에 응답하여 전압 droop을 거의 제거하고, 성능을 희생하지 않으면서 더 낮은, 더 효율적인 작동 전압을 가능하게 합니다.
• 설계 단순화 및 더 작은 부품: 전압 조정기를 마더보드에서 제거하면 보드 공간을 절약하고, 설계를 단순화하며, 더緊密한, 고성능 아키텍처를 지원할 수 있습니다.

AI 하드웨어의 미래 재건축

IVR의 이점은 AI 하드웨어 설계자들이 직면한 가장 큰 도전에 직접적으로 대처합니다. 다음 세대 GPU 및 AI 가속기를 개발하는 회사들에게 통합 전력 관리는 “nice-to-have”가 아니라 필수 기술입니다.

고급 반도체 패키지 기술인 칩렛 및 3D 스택킹은 전통적인 무어의 법칙 스케일링이 느려지는 현재로서는 앞으로의 길입니다. 이러한 기술은 여러 개의 작은, 전문적인 다이를 하나의 강력한 패키지로 조립하는 것을 포함합니다. TSMC의 CoWoS 기술과 같은 산업 리더에 따르면, 이러한 접근 방식은 복잡한, 이종 시스템을 관리하기 위해 정교한 전력 공급 전략이 필요합니다. IVR, Ferric의 제품을 포함하여, 이러한 패러다임에 완벽하게 적합하며, 이러한 복잡한 시스템을 관리하기 위해 필요한 세분화된, 효율적인 전력을 제공합니다.

도전과 결론

광범위한 채택으로의 길은 장애물이 없습니다. 새로운 재료와 공정을高度하게 보수적이고 복잡한 반도체 제조 생태계에 통합하는 것은 엄청난 작업입니다.

그러나 해결책이 필요합니다. AI의 현재 전력 소비 트레이젝토리는 지속 불가능합니다. 단순히 트랜지스터를 더 작게 만드는 것만으로는 더 이상 충분하지 않습니다. 소프트웨어에서 전력 공급까지 전체 시스템을 재구성하는 것이 필요합니다. Ferric와 같은 회사의 작업은 이 퍼즐의 중요한 부분입니다. 전력 야수를 그 근원에서 길들이는 것으로, 더 효율적인 구성 요소를 만들뿐만 아니라, 다음 세대의 AI 및 고성능 컴퓨팅을 위한 길을 열어줍니다.

하드웨어 혁신의 여정은 병목 현상을 극복하는 것입니다. 수십 년 동안 컴퓨팅 속도와 트랜지스터 밀도에 초점이 맞춰져 왔습니다. 오늘날 가장 긴급한 병목 현상은 전력입니다. 이 도전에 대처하는 회사들은 향후 수년 동안 컴퓨팅의 지형을 정의할 것입니다.

전력 공급이 최적화된 후에 AI 하드웨어 설계에서 다음 주요 병목 현상은 무엇이라고 생각합니까? 대규모 AI 배포의 경제학을 어떻게 변화시킬 것입니까?