볼티지 파크의 사우라브 기리, CPTO – 인터뷰 시리즈

사우라브 기리는 볼티지 파크의 최고 제품 및 기술 책임자이며 이사회의 이사이다. 그는 회사의 전략적 비전을 추진하고 제품 로드맵을 정의하며 엔지니어링 운영을 담당한다. 이전에 사우라브는 아마존 베드락을 구축하고 출시하고 운영한 팀을 이끌었다. 아마존 베드락은 아마존의 생성적 AI 플랫폼이다. 그의 경력 초기에, 사우라브는 차세대 결제 플랫폼을 공동 설립하고 최고 경영자로 재직했으며, 미래 시장의 시장 만들기와 곡선 중간 단기 차익에 전문적인 알고리즘 거래 회사를 공동 설립했으며, 이사회와 경영 팀에 전략, 운영, 재무 문제에 대해 자문을 제공했다.

볼티지 파크의 사명은 기업이 AI를 사용하여 데이터를 비즈니스 인텔리전스로 변환하는 것을 도와주는 것이다. 볼티지 파크는 6개의 데이터 센터에 걸쳐 24,000개 이상의 H100 GPU를 보유하고 있으며, 경쟁력 있는 가격으로 베어 메탈 액세스를 제공한다. 이는 고객이 연구자, 스타트업, 대기업일 수 있음을 고려하지 않는다.

스타트업과 세계 최대의 클라우드 제공업체에서 모두 일했습니다. 인프라와 AI 세계로 처음으로 끌렸던 것은 무엇입니까?

생성적 AI는 지난 세기 동안 몇 가지 기술이 가져온 변화를 초월하여 변革적일 것입니다. 오늘날 오픈AI의 GPT-5와 같은 최전선 모델로 가능한 것은 10년 전에는 상상할 수 없었으며, 3년 전에는 놀라울 정도입니다.

우리는 아직 초기 단계에 있습니다. 저에게 매력적인 것은 이러한 심오한 기술이 과학, 산업, 사회 전반에서 어떻게 활용될지 결정하는 인프라 레이어를 형성하는 기회입니다.

아마존에서 아마존 베드락을 구축했습니다. 볼티지 파크에서 적용하고 있는 그 경험에서 얻은 제품 엔지니어링 교훈은 무엇입니까?

아마존 베드락은 많은 방면에서 새로운 길을 열었으며, 베드락 팀이 빠르게 성과를 내는 것을 자랑스럽게 생각합니다. 베드락의 핵심 통찰은 빌더가 모델 선택과 모달리티를 투명하게 만드는 추상화 레이어가 필요하다는 것이었습니다. 이를 통해 빌더는 인프라 복잡성을 관리하는 대신 솔루션을 구축하는 데 집중할 수 있었습니다. 이는 텍스트, 비전, 멀티모달을 포함한 여러 기초 모델에 대한無шов한 액세스를 제공한 최초의 산업 플랫폼이었습니다. 모델별 API 또는 하드웨어 제약을 탐색할 필요가 없었습니다.

기초 모델 기능은 클라우드 컴퓨팅, 모바일, 인터넷 자체보다 더 빠른 속도로 발전하고 있습니다. 베드락 팀은 이러한 속도에서 혁신을 제공했으며, 2~3세대 앞서서 모델 기능이 어디에 있을지 예측하고 그 미래를 위해 구축했습니다.

볼티지 파크에서 우리는 같은 원칙을 적용합니다. 오늘의 고통 점을 해결하고 미래 기술이 도착했을 때 고객이 필요로 하는 것을 엔지니어링하는 최신 인프라와 소프트웨어 추상화를 빠르게 제공합니다.

하이퍼스케일러에서 자본 효율적인 스타트업인 볼티지 파크로 이동할 때 기술적이고 문화적인 가장 큰 변화는 무엇입니까?

하이퍼스케일러에서 엔지니어링은 성숙한 생태계 내에서 존재합니다. 여기에는 툴링, 컴플라이언스, 마케팅, 고객 전달이 포함되며, 전체는 부분의 합을 초과합니다. 스타트업에서는 이러한 뒷바람을 속도, 응집력, 영향력과 교환합니다. 느려지게 하는 거대한 관료주의가 없지만, 사전 구축된 스카프폴딩도 없습니다. 보상은 문화적 응집력과 시간의 한 단편에서 고影响力的 제품을 제공하는 능력입니다.

볼티지 파크는 24,000개 이상의 H100 GPU를 보유하고 있으며, 경쟁력 있는 가격으로 베어 메탈 액세스를 제공합니다. 주로 어떤 고객 세그먼트를 타겟팅하고 있습니까?

我们的 플랫폼은 베어 메탈, 가상 머신, 관리형 쿠버네티스, 관리형 슬럼, AI 워크로드를 위한 보완 소프트웨어 스택으로 구성되어 있습니다. 우리는 AI 제품을 구축하거나 AI를 사용하여 구축하는 모든 사람들을 خدمت합니다. 연구자, 스타트업, 기업을 포함합니다. 세계에서 가장 복잡한 모델 빌더 중 일부, 예를 들어 머신 러닝 과학 및 엔지니어링의 최전선에 있는 커서와 같은 회사들은 볼티지 파크에서 모델을 훈련합니다. 많은 유명한 AI 제품 회사들은 볼티지 파크에서 추론 워크로드를 실행합니다. 기업의 경우, 우리는 프로토タイプ에서 생산까지 쉽게 이동하고 워크로드를 안정적으로 확장하는 데 필요한 비용과 전문 지식의 임계 값을 낮추고 있습니다.

인프라 구축을 확장하면서 에너지 사용, 비용 효율성, 지속 가능성을 어떻게 관리합니까?

우리는 효율적으로 데이터 센터를 운영하기 위해 상당한 투자를 했습니다. 예측 유지 보수를 통해 에너지 사용과 비용을 줄였습니다. 이는 반응형 서비스보다 낭비를 피하고 다운타임을 줄입니다. 현재 우리의 대부분의 데이터 센터는 99% 이상의 재생 에너지와 녹색 에너지로 구동되며, 확장함에 따라 이 비율은 증가할 것입니다.

파트너십과 표준은 볼티지 파크의 전면 AI 인프라 제공업체로서의 발전에 어떻게 영향을 미치고 있습니까?

우리는 이론에서 변革으로 AI를 이동시키는 회사와 파트너합니다. 좋은 예는 우리가 주도한 마트릭스.ai의 시드 확장 투자입니다. 그들의 도메인 전문 지식은 비전 모델을 통해 우리 고객이 여러 산업을 통해 수직적으로 특정 솔루션으로 픽셀을 지능으로 변환할 수 있도록 합니다. 우리는 모델 제공업체에게 모듈식 하드웨어-소프트웨어 스택에서 모델을 배포할 수 있도록 계속해서 AI 인프라 백본을 제공할 것입니다. 이는 성능을 저하하지 않고 보안이나 데이터 개인 정보를 妥協하지 않습니다.

우리는 또한 오픈 소스 커뮤니티에 기여하고 있습니다. 예를 들어, SGLang의 인프라 파트너로서 SpecForge와 같은 고품질 오픈 소스 프로젝트를 커뮤니티에 제공하고 있습니다. 또한 미국 국립 과학 재단과 협력하여 전국의 연구자와 교육자에게 최첨단 AI 도구에 대한 접근성을 확대하기 위한 공공-민간 협력인 NAIRR(국가 AI 연구 자원) 파일럿을 지원하고 있습니다.

AI 개발자를 위한 기업급 관리, 감사 가능성 또는 보안 기능을 무엇을 우선순위로 합니까?

보안, 데이터 개인 정보, 컴플라이언스는 우리의 AI 팩토리 플랫폼의 기본 기능입니다. 고객은 기업급 스택을 사용하는 것에 대한 안심을 가지고 있습니다. 우리는 고객의 추가적인 고통 점을 해결하기 위해 소프트웨어 스택을 구축하고 있으며, 그 중에는 세부적인 리소스 및 데이터 권한, 계층화된 감사 트레일, 안전 가드레일, 기업 데이터 파이프라인, API 및 에이전트 프레임워크와의無шов한 통합과 같은 기능이 포함됩니다. 목표는 클라우드의 민첩성과 온프레미스 환경의 제어를 고객에게 제공하는 것입니다.

현재 컴퓨팅 자원 제약 환경에서 효과적으로 확장하기 위해 AI 연구자와 인프라 팀에게 어떤 조언을 드리겠습니까?

AI 연구자와 회사들은 인프라 도전 과제를 해결하는 데 시간을 최소화해야 하며, 관리형 쿠버네티스 및 슬럼과 같은 고급 프imitives를 활용해야 합니다. 투명한 가격, 전문 운영 지원, 예외적인 엔지니어링 전문 지식을 제공하는 파트너를 선택해야 합니다. 이러한 요소는 실험과 확장을 모두 가속화할 것입니다.

3년 후 볼티지 파크는 어디에 있을 것으로 생각합니까? 풀 AI-서비스로 더 아래로 내려가거나 엣지 컴퓨팅과 같은 새로운 영역으로 분기하는 것입니까?

AI 풍경에서 3년은 한 시대입니다. 우리는 고객 중심의 회사이며, 3년 후에도 현재와 마찬가지로 실제 고객의 고통 점에 집중할 것입니다. 우리는 소프트웨어 스택의 폭과 깊이에서 더 많은 소피스蒂케이션을 가지며, 세계 최고의 기업들이 대규모로 AI를 채택하는 것을 가속화하는 기록을 가지게 될 것으로 기대합니다.

이번 인터뷰에 감사드립니다. 더 많은 정보를 원하는 독자는 볼티지 파크를 방문하십시오.