Niv-AI, 1.2억 달러 투자로 AI 인프라의 숨겨진 전력 병목 현상 해결에 나서

새로운 스타트업이 점점 붐비는 AI 인프라 공간에 들어서고 있습니다. 이 스타트업은 최근에는 헤드라인을 만들지 못하는 제약이지만 빠르게 산업의 가장 큰 도전 중 하나가 되고 있는 문제에 초점을 맞추고 있습니다. 그 문제는 전력입니다.

Niv-AI는 Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward, 및 Aurora로부터 1,200만 달러의 자금을 확보하여 스타트업을 시작했습니다. 텔아비브에 본사를 둔 이 회사는 에너지 시스템과 고성능 컴퓨팅의 교차점에 자리 잡고 있으며, “즉시 전력 용량” 위기를 해결하고자 합니다.

문제: AI의 전력 수요 증가

AI 작업량이 증가함에 따라, 특히 전력 밀도가 높은 GPU를 채택함에 따라, 데이터 센터는 소프트웨어 최적화만으로 해결할 수 없는 물리적 제한에 직면하고 있습니다. 컴퓨팅 용량은 계속 증가하지만, 밀리초 수준에서 안정적인 전력을 공급하는 능력은 뒤처지고 있습니다.

전통적인 모니터링 시스템은 현대적인 AI 작업량의 빠르고 뾰족한 전력 소비 패턴에 대응하도록 설계되지 않았습니다. 장비 손상이나 그리드 불안정성을 피하기 위해 운영자는 종종 사용을 제한하여 과잉 보상합니다. 결과적으로 기존 인프라의 최대 30%의 계약 전력 용량이 사실상闲置 상태로 남게 됩니다.

이 비효율성은 금전적인 영향을 미칩니다. 데이터 센터 운영자는 사용할 수 없는 용량을 위해 지불하고 있으며, AI 회사는 배포를 느리게 하고 비용을 증가시키는 제약에 직면하고 있습니다.

전력과 컴퓨팅 사이의 새로운 계층

Niv-AI의 접근 방식은 에너지 공급과 컴퓨팅 작업 사이에 새로운 제어 계층을 도입합니다. 플랫폼의 핵심은 “전기 지문”이라고 하는 것인데, 이는 AI 작업이 전력을 실시간으로 소비하는 고해상도 보기입니다.

전문 센서를 사용하여 시스템은 전통적인 미터가 놓치기 쉬운 자세한 전력 신호를 캡처합니다. 이러한 신호는 단기적인 수요 변동을 예측하도록 설계된 AI 모델에 의해 처리됩니다._spike가 발생한 후에 반응하는 대신에, 플랫폼은 작업 시간을 미리 조정하여 전력 사용을 부드럽게 합니다.

실제로 이는 데이터 센터 내부의 전력에 대한 교통 관리 시스템과 같은 기능을 하여, 운영자가 인프라를 실제 한계에 더 가까이 밀어붙일 수 있게 합니다.

하드웨어 수정을 넘어서

현재 전력 제약을 해결하기 위한 대부분의 시도는 배터리, 콘덴서 또는 작업량의 보수적인 제한과 같은 물리적 솔루션에 의존합니다. 이러한 접근 방식은 어느 정도 효과적이지만, 비용, 복잡성 또는 성능 저하를 초래할 수 있습니다.

Niv-AI는 소프트웨어 주도 오케스트레이션 계층이 추가 하드웨어 없이 유사한 또는 더 큰 이익을解锁할 수 있다고 베팅하고 있습니다. 가시성과 제어를 세부 수준에서 개선함으로써, 회사는 운영자가 기존 인프라에서 더 많은 가치를 추출할 수 있도록 ermöglicht하려고 합니다.

이 전환은 데이터 센터 최적화의 더广い 추세를 반영합니다. 여기서 소프트웨어 정의 접근 방식이 물리적 제약을 관리하는 데 점점 더 많이 사용되고 있습니다.

AI 인프라에 대한 더广い 의미

이 기술이 효과적이면, 데이터 센터가 설계되고 운영되는 방식을 10년 동안 다시 정의할 수 있습니다. 운영자는 전력 제한을 고정된 제약으로 간주하는 대신, 동적으로 관리할 수 있는 변수로 간주하기 시작할 수 있습니다.

이것은 효율성에 대한 의미를 넘어섭니다. 이는 특히 에너지 가용성이 이미 병목 현상인 지역에서 비싼 그리드 업그레이드와 새 시설 건설의 필요를 지연시키거나 줄일 수 있습니다. 또한 AI 작업량을 예약, 가격, 우선순위에 따라 관리하는 새로운 최적화 차원을 도입할 수 있습니다.

시스템 수준에서 전력과 컴퓨팅 제어의 hội합은 역사적으로 분리된 계층이 점점 더 많이 조정되는 미래를 암시합니다. AI가 계속 확장됨에 따라, 이러한 계층을 조화시키는 능력은 모델 아키텍처 또는 칩 설계의 발전만큼 중요해질 수 있습니다.