오픈AI, 세레브라스와 1조 달러 규모 저지연 컴퓨팅 계약 체결

오픈AI는 세레브라스 시스템즈와의 다년간 계약을 발표했으며, 이는 채팅봇 제조업체에 750메가와트의 전용 AI 컴퓨팅을 제공할 것으로 알려졌으며, 두 회사 모두 이 계약을 최대 규모의 고속 추론 배포라고 설명합니다.

이 계약은 1조 달러 이상의 가치가 있는 것으로 알려졌으며, 이는 오픈AI의 주요 관계인 마이크로소프트 외에 가장 큰 인프라 투자입니다. 세레브라스는 2028년까지 시스템을 단계적으로 구축 및 호스팅할 예정이며, 첫 번째 용량은 올해 온라인으로 제공될 예정입니다.

이 파트너십은 특정 문제를 해결하는 것을 목표로 합니다. 즉, 속도입니다. 오픈AI는 채팅봇을 8억 명의 주간 사용자로 확대했지만, 코드 생성, 에이전트 작업 및 실시간 음성 상호작용과 같은 요구 사항이 높은 작업에 대한 응답 시간을 늦추는 컴퓨팅 제약에 직면해 있습니다.

“세레브라스는 저지연 추론 솔루션을 우리 플랫폼에 추가합니다”라고 오픈AI의 컴퓨팅 전략을 이끄는 사친 카티는 말했습니다. “즉, 더 빠른 응답, 더 자연스러운 상호작용, 실시간 AI를 더 많은 사람에게 확장하기 위한 더 강한基础을 의미합니다.”

웨이퍼 스케일 실리콘의 중요성

세레브라스의 핵심은 웨이퍼 스케일 프로세서에 있습니다. 즉, 작은 GPU로 구성된 시스템의 내재된 통신 지연을 제거하는 디너 플레이트 크기의 칩입니다. 이 회사는 자신의 아키텍처가 GPU 기반 대안보다 추론 속도가 최대 15배 빠르다고 주장하며, GPT-OSS-120B와 같은 모델은 초당 약 3,000개의 토큰으로 실행됩니다.

오픈AI에게 이는 사용자 경험과 직접적으로 연결됩니다. AI가 실시간으로 응답할 때, 즉 대화가 인공적으로 느껴지는 지연 없이, 사용자는 더 깊이 참여하고 더 많은 것을 달성합니다. 이 회사는 추수감사절 전에 세레브라스의 실리콘을 오픈 웨이트 모델과 함께 테스트했으며, 기술적인 대화는 서명된 용어 시트에 빠르게 이르렀습니다. 세레브라스 CEO 앤드류 펠드만은 così 말했다.

“브로드밴드가 인터넷을 변革한 것처럼 실시간 추론이 AI를 변革할 것입니다”라고 펠드만은 말했다. “이것은 완전히 새로운 방식으로 AI 모델을 구축하고 상호작용할 수 있게 해줍니다.”

이 비교는 과장된 것이 아닙니다. 초기 다이얼업 인터넷은 이메일과 기본 브라우징을 지원했지만, 브로드밴드는 스트리밍 비디오, 음성 통화, 최종적으로 스마트폰 앱 경제를 가능하게 했습니다. 오픈AI는 충분히 빠른 추론이 현재의 지연으로 인해 비실용적인 응용 프로그램을 잠금 해제할 것이라고 베팅하는 것으로 보입니다. 특히 AI 에이전트가 인내심이 다했을 때 여러 작업을 연쇄적으로 연결해야 하는 경우에 그렇습니다.

인프라 경쟁이 격화된다

세레브라스 거래는 AI 인프라 평가가 폭발한 상황에서 이루어졌습니다. 데이터브릭스는 최근 1,340억 달러의 평가를 받았으며, 세레브라스 자체는 220억 달러의 평가로 신선한 자금을 논의하고 있습니다. 전위 AI 모델의 컴퓨팅 요구는 정체되는迹가 없으며, 회사들은 경쟁사보다 먼저 용량을 확보하기 위해 서두르고 있습니다.

세레브라스에게 오픈AI 파트너십은 사업 집중 문제를 해결합니다. 아랍에미리트의 G42는 2024년 상반기 동안 세레브라스의 수입의 87%를 차지했으며, 이는 투자자들이 걱정하는 고객 집중도를 나타냅니다. 잠재적인 IPO 이전에 주요 고객으로 오픈AI를 추가하면 사업을 상당히 위험에서 해방시킵니다.

오픈AI에게 이 계약은 마이크로소프트의 애저 클라우드 외에 AI 인프라를 다양화합니다. 마이크로소프트는 여전히 오픈AI의 주요 컴퓨팅 제공업체이지만, 세레브라스 파트너십은 오픈AI에게 추론을 위해 최적화된 전용 저지연 용량을 제공합니다. 이는 마이크로소프트의 인프라가 처리하는 훈련 실행과는 다른 작업負荷입니다.

타이밍도 중요합니다. 오픈AI는 최근 GPT-5.2를 출시했으며, 이는 구글의 젬스타일과 경쟁이 격화되는 상황에서 이루어졌습니다. 모델이 더 능숙해짐에 따라, 이러한 모델을 배포하는 회사들은 원시적인 지능만으로는 충분하지 않으며, 사용자는 거의 즉각적인 응답도 기대한다는 것을 발견했습니다. 10초가 걸리는 지능적인 AI는 고장난 것처럼 느껴지지만, 1초 이내에 응답하는 동일한 AI는 마법처럼 느껴집니다.

오픈AI의 CEO인 샘 알트만은 이미 세레브라스의 투자자이며, 오픈AI는 한때 이 회사를 완전히 인수하는 것을 고려했습니다. 이 계약은 두 회사의 운명이 대화형 AI를 만들기 위한 경쟁에서 더 전략적으로 얽히게 될 파트너십으로 관계가 발전하고 있음을 시사합니다.