Saurabh Giri, Voltage Park의 CPTO – 인터뷰 시리즈

Saurabh Giri는 Voltage Park의 Chief Product and Technology Officer이며 이사회의 집행 이사이다. 그는 회사의 전략적 비전을 추진하고 제품 로드맵을 정의하며 엔지니어링 운영을 담당한다. 이전에 Saurabh는 Amazon Bedrock, Amazon의 생성적 AI 플랫폼을 구축, 출시, 운영한 팀을 이끌었다. 그의 경력 초기에, Saurabh는 차세대 결제 플랫폼을 공동 설립하고 CEO를 역임했으며; 미래 시장에서 시장 만들기와 곡선 조정에 전문적인 알고리즘 트레이딩 회사를 공동 설립했으며; 이사회와 경영 팀에 전략, 운영, 재무 문제에 대해 자문을 제공했다.

Voltage Park의 미션은 AI를 사용하여 기업이 데이터를 비즈니스 인텔리전스로 변환하는 것을 도와주는 것이다. 6개의 데이터 센터에 걸쳐 수만 개의 GPU를 보유하고 있는 Voltage Park는 연구자, 스타트업, 대기업을 포함한 모든 고객에게 세계 수준의 하드웨어와 고객 서비스를 제공한다.

스타트업과 세계에서 가장 큰 클라우드 제공업체에서 모두 일했습니다. 인프라와 AI 세계에 처음으로 관심을 가지게 된 것은 무엇입니까?

생성적 AI는 지난 세기 동안 몇 가지 기술이 가져온 변화를 초월하는 방식으로 변革적일 것입니다. OpenAI의 GPT-5와 같은 최전선 모델로 오늘날 가능한 것은 10년 전에는 상상할 수 없었으며 3년 전에는 놀라웠을 것입니다.

우리는まだ 초기 단계에 있습니다. 저에게 매력적인 것은 과학, 산업, 사회 전반에 걸쳐如此 심오한 기술이 어떻게 활용될지 결정하는 인프라 계층을 형성하는 기회입니다.

AWS에서 Amazon Bedrock를 구축하는 데 도움을 주었습니다. Voltage Park에서 그 경험에서 어떤 제품 엔지니어링 교훈을 적용하고 있습니까?

Amazon Bedrock는 많은 방면에서 새로운 길을 열었으며 Bedrock 팀이 빠르게 성과를 낼 수 있도록 도와준 것에 대해 매우 자랑스럽습니다. Bedrock의 핵심 통찰력은 빌더가 모델 선택과 모달리티를 투명하게 만드는 추상화 계층이 필요하다는 것이었습니다. 이를 통해 빌더는 인프라 복잡성을 관리하는 대신 솔루션을 구축하는 데 집중할 수 있었습니다. 텍스트, 비전, 멀티모달을 포함한 여러 기초 모델에 대한無шов 접근을 제공하는 최초의 산업 플랫폼이었습니다.

기초 모델의 기능은 클라우드 컴퓨팅, 모바일, 또는 인터넷 자체보다 훨씬 빠른 속도로 발전하고 있습니다. Bedrock 팀은 그 속도로 혁신을 제공했으며 2~3세대 앞서서 모델 기능이 어디에 있을지 예측하고 그 미래를 위해 구축했습니다.

Voltage Park에서 동일한 원칙을 적용하고 있습니다. 오늘날의痛点을 해결하는 최첨단 인프라와 소프트웨어 추상화를 빠르게 제공하면서 기술이 어디로 향하고 고객이 미래에 무엇을 필요로 할지에 대해 엔지니어링합니다.

하이퍼스케일러에서 자본 효율적인 스타트업인 Voltage Park로 이동할 때 기술적이고 문화적인 가장 큰 변화는 무엇입니까?

하이퍼스케일러에서는 엔지니어링이 광범위하고 성숙한 생태계 내에서 존재합니다. 여기에는 툴링, 컴플라이언스, 마케팅, 고객 배달 등이 포함되며 전체는 부분의 합을 초과합니다. 스타트업에서는 이러한 후발주자를 속도, 응집력, 영향력과 교환합니다. 거대한 관료주의가您를 느리게 하지 않지만 미리 구축된 스카프폴딩도 없습니다. 보상은 문화적 응집력과 제품을 분수에 걸쳐 제공하는 능력입니다.

Voltage Park는 24,000개 이상의 H100 GPU를 보유하고 있으며 경쟁력 있는 가격으로 베어 메탈 접근을 제공합니다. 주로 어떤 고객 세그먼트를 대상으로 하고 있습니까?

우리의 플랫폼은 베어 메탈, 가상 머신, 관리형 쿠버네티스, 관리형 Slurm, AI 워크로드를 위한 보완 소프트웨어 스택으로 구성되어 있습니다. 우리는 AI 제품을 구축하거나 AI를 사용하여 구축하는 모든 사람을 خدمت합니다. 연구자, 스타트업, 대기업 등입니다. 현재 세계에서 가장 복잡한 모델 빌더 중 일부, 예를 들어 머신 러닝 과학 및 엔지니어링의 최전선에 있는 Cursor는 Voltage Park에서 모델을 훈련합니다. 많은 유명한 AI 제품 회사들도 Voltage Park에서 추론 워크로드를 실행하고 있습니다. 대기업의 경우 프로토 타입에서 생산으로 쉽게 이동하고 워크로드를 안정적으로 확장하는 데 필요한 비용과 전문 지식의 문턱을 낮추고 있습니다.

인프라 足跡을 확장하면서 전력 사용, 비용 효율성, 지속 가능성을 어떻게 관리합니까?

우리는 데이터 센터를 효율적으로 운영하기 위해 상당한 투자를 했습니다. 예측 유지 보수와 같은 혁신을 통해 우리는 전력 사용과 비용을 크게 줄일 수 있었습니다. 이는 반응형 서비스에 비해 다운타임을 줄이고 낭비를 피하는 데 도움이 됩니다. 현재 우리의 대부분의 足跡은 99% 이상의 재생 가능하고 녹색 에너지로 구동되며 이는 확장함에 따라 더 증가할 것입니다.

파트너십과 표준은 Voltage Park의 전면 AI 인프라 제공업체로서의 발전에 어떤 영향을 미치고 있습니까?

우리는 이론에서 변혁으로 AI를 이동시키는 회사와 파트너십을 맺습니다. 좋은 예는 우리가 주도한 Matrice.ai의 시드 확장입니다. 그들의 도메인 전문 지식은 비전 모델을 통해 고객이 여러 산업을横断하는 垂直 특정 솔루션으로 픽셀을 지능으로 변환할 수 있도록 합니다. 우리는 모델 제공업체가 모듈형, 통합 하드웨어-소프트웨어 스택에서 모델을 배포할 수 있도록 AI 인프라 백본을 계속 제공할 것입니다.

우리는 또한 오픈 소스 커뮤니티의 적극적인 기여자입니다. 예를 들어, SGLang의 인프라 파트너로서 우리는 커뮤니티에 높은 품질의 오픈 소스 프로젝트인 SpecForge를 제공했습니다. 또한 미국 국립 과학 재단과 협력하여 전국의 연구자와 교육자에게 최첨단 AI 도구에 대한 접근성을 확대하기 위한 공공-민간 협력인 National AI Research Resource (NAIRR) 파일럿을 지원했습니다.

AI 개발자를 위한 엔터프라이즈급 관리, 감사 가능성, 보안 기능을 무엇을 우선순위로 하고 있습니까?

보안, 데이터 개인 정보 보호, 컴플라이언스는 우리의 AI 팩토리 플랫폼의 기본 기능이며 고객은 엔터프라이즈급 스택으로 작업하는 안심을 할 수 있습니다. 우리는 고객의 추가적인 痛点을 해결하기 위해 소프트웨어 스택을 구축하는 과정에서 리소스 및 데이터 사용 권한, 계층적 감사 추적, 안전 가드레일, 엔터프라이즈 데이터 파이프라인, API, 에이전트 프레임워크와의无шов 통합 등 기능을 추가하고 있습니다. 목표는 고객에게 클라우드의 민첩성과 온프레미스 환경의 제어를 제공하는 것입니다.

현재 컴퓨팅 자원 제약 환경에서 효과적으로 확장하려는 AI 연구자와 인프라 팀에게 어떤 조언을 드리겠습니까?

AI 연구자와 회사들은 인프라 챌린지에 시간을 보낼 필요가 없습니다. 관리형 쿠버네티스, Slurm와 같은 높은 수준의 원시들을 활용하고 투명한 가격, 전문적인 운영 지원, 예외적인 엔지니어링 전문 지식을 제공하는 파트너를 선택해야 합니다. 이러한 요소는 실험과 확장을 가속화할 것입니다.

3년 후 Voltage Park는 어디에 있을 것이라고 생각합니까? 전면 AI-as-a-Service로 더 아래로 내려가거나 에지 컴퓨팅과 같은 새로운 영역으로 확장합니까?

AI 풍경에서 3년은 한 시대입니다. 우리는 고객 중심의 회사이며 3년 후, 현재와 마찬가지로 실제 고객의 痛点에 집중할 것입니다. 소프트웨어 스택의 폭과 깊이에서 더 많은 소양을 가지게 될 것으로 예상하며 세계 최고의 회사들이 대규모로 AI를 채택하는 것을 가속화하는 데 도움을 주는 기록을 가지고 있을 것입니다.

감사합니다. 더 많은 정보를 배우고 싶은 독자는 Voltage Park를 방문하십시오.