Saurabh Giri, CPTO da Voltage Park – Série de Entrevistas

Saurabh Giri atua como Diretor de Produto e Tecnologia da Voltage Park e é diretor executivo de sua diretoria. Ele é responsável por impulsionar a visão estratégica da empresa, definir sua estratégia de produto e executar operações de engenharia. Anteriormente, Saurabh liderou equipes que construíram, lançaram e operaram a Amazon Bedrock, plataforma da Amazon para inteligência artificial gerativa. No início de sua carreira, Saurabh co-fundou e atuou como CEO de uma plataforma de pagamentos de próxima geração; co-fundou uma empresa de negociação algorítmica especializada em fazer mercado e arbitragem de curva em mercados de futuros; e aconselhou conselhos e equipes de gestão sobre estratégia, operações e questões financeiras.

A missão da Voltage Park é ajudar as empresas a transformar dados em inteligência de negócios usando IA, tornando a infraestrutura de IA acessível a todos. Com dezenas de milhares de GPUs em seis centros de dados, a Voltage Park oferece hardware e serviço ao cliente de classe mundial a um valor incrível – independentemente de o cliente ser um pesquisador, uma startup ou uma grande empresa.

Você trabalhou em startups e em uma das maiores provedoras de nuvem do mundo. O que o atraiu originalmente para o mundo da infraestrutura e da IA?

A IA gerativa será transformacional de uma maneira que poucas tecnologias foram nos últimos cem anos. O que é possível hoje com modelos de fronteira como o GPT-5 da OpenAI seria inconcebível há dez anos e surpreendente até três anos atrás.

Ainda estamos nos estágios iniciais. O atrativo para mim é a oportunidade de moldar a camada de infraestrutura que determina como uma tecnologia tão profunda será aproveitada – para a ciência, para a indústria e para a sociedade como um todo.

Na AWS, você ajudou a construir a Amazon Bedrock. Quais lições de engenharia de produto dessa experiência você está aplicando na Voltage Park?

A Amazon Bedrock quebrou novos caminhos de muitas maneiras, e estou realmente orgulhoso do que a equipe Bedrock foi capaz de realizar rapidamente. A percepção central da Bedrock foi que os construtores precisavam de uma camada de abstração que tornasse a escolha de modelo e modalidade transparente – libertando-os para se concentrar em construir soluções em vez de gerenciar a complexidade da infraestrutura. Foi a primeira plataforma da indústria a fornecer acesso sem interrupções a vários modelos de fundação – texto, visão e multimodal – sem exigir que as equipes navegassem por APIs ou restrições de hardware específicas de modelo.

As capacidades dos modelos de fundação estão avançando a um ritmo impressionante – mais rápido do que as mudanças tecnológicas anteriores, como computação em nuvem, móvel ou até a própria internet. Minha equipe Bedrock enviou inovações a essa velocidade, antecipando onde as capacidades dos modelos estariam duas ou três gerações à frente e construindo para esse futuro.

Na Voltage Park, estamos aplicando o mesmo princípio: Mover rápido para entregar infraestrutura e abstrações de software de ponta que resolvam os pontos de dor de hoje, enquanto engenheiramos para onde a tecnologia está indo e o que os clientes precisarão quando a tecnologia do futuro chegar.

Quais foram as principais mudanças técnicas e culturais ao mudar de uma hyperscaler para uma startup eficiente em capital como a Voltage Park?

Em uma hyperscaler, a engenharia existe dentro de um vasto ecossistema maduro – ferramentas, conformidade, marketing, entrega ao cliente – onde o todo excede a soma de suas partes. Em uma startup, você troca esses ventos favoráveis por velocidade, coesão e impacto. Não há burocracia gigantesca para desacelerá-lo, mas também não há estrutura pré-construída – você precisa criá-la. A recompensa é a coesão cultural e a capacidade de enviar produtos de alto impacto em uma fração do tempo.

A Voltage Park possui mais de 24.000 GPUs H100 e oferece acesso de metal nu ao preço competitivo. Quais segmentos de clientes você está visando principalmente?

Nossa plataforma abrange metal nu, máquinas virtuais, Kubernetes gerenciado, Slurm gerenciado e uma pilha de software complementar projetada para cargas de trabalho de IA. Atendemos qualquer pessoa que construa produtos de IA ou construa com IA: pesquisadores, startups e empresas. Alguns dos construtores de modelos mais sofisticados do mundo hoje, como o Cursor, que está impulsionando o estado da arte em ciência e engenharia de aprendizado de máquina, estão treinando seus modelos na Voltage Park. Da mesma forma, muitas empresas de produtos de IA conhecidas estão executando cargas de trabalho de inferência na Voltage Park. Para as empresas, estamos reduzindo tanto o custo quanto os limiares de especialização para mover-se facilmente de protótipo para produção e escalonar cargas de trabalho de forma confiável.

Como você está gerenciando o uso de energia, eficiência de custo e sustentabilidade à medida que expande sua pegada de infraestrutura?

Fizemos e continuamos a fazer investimentos significativos para executar nossos centros de dados de forma eficiente. Projetamos ganhos significativos no uso de energia e custo por meio de inovações como manutenção preditiva impulsionada por IA, que reduz o tempo de inatividade e evita desperdício em comparação com o serviço reativo. A maioria de nossa pegada atual é alimentada por 99% ou mais de energia renovável e verde, e essa proporção crescerá à medida que expandimos.

Como as parcerias e os padrões estão moldando a evolução da Voltage Park como um provedor de infraestrutura de IA de pilha completa?

Nosso parceiro com empresas que estão movendo a IA do teórico para o transformacional. Um bom exemplo é nosso investimento na Matrice.ai, onde lideramos sua expansão de sementes. A especialização em modelos de visão da Matrice.ai permite que nossos clientes convertam pixels em inteligência com soluções específicas de verticais em várias indústrias. Continuaremos a fornecer a espinha dorsal de infraestrutura de IA para os provedores de modelos implantarem seus modelos em uma pilha de hardware e software modular, integrada, que entrega desempenho sem comprometer segurança ou privacidade de dados.

Também somos um contribuinte ativo para a comunidade de código aberto – apoiando, por exemplo, o SGLang como nosso parceiro de infraestrutura para trazer projetos de código aberto de alta qualidade, como o SpecForge, para a comunidade. E nos parceiramos com a Fundação Nacional de Ciência dos EUA para apoiar o piloto do Recurso Nacional de Pesquisa de IA (NAIRR), uma iniciativa público-privada para expandir o acesso a ferramentas de IA de ponta para pesquisadores e educadores em todo o país.

Quais recursos de gerenciamento de nível empresarial, auditoria ou segurança você está priorizando para os desenvolvedores de IA?

Segurança, privacidade de dados e conformidade são recursos fundamentais de nossa plataforma de fábrica de IA, e nossos clientes têm a tranquilidade de trabalhar com uma pilha empresarial. À medida que construímos nossa pilha de software para atender a pontos de dor adicionais dos clientes, estamos adicionando recursos como permissões de recursos e dados granulares, rastros de auditoria em níveis, guardiões de segurança e integração transparente com pipelines de dados empresariais, APIs e estruturas de agente. O objetivo é dar aos clientes a agilidade da nuvem com o controle de um ambiente local.

Que conselho você tem para os pesquisadores de IA e equipes de infraestrutura que visam escalar de forma eficaz em um ambiente de computação limitado de hoje?

Os pesquisadores de IA e as empresas devem tentar minimizar o tempo que passam lidando com desafios de infraestrutura, pois é indiferenciado, e aproveitar primitivos de nível superior, como Kubernetes e Slurm gerenciados. Escolha parceiros que ofereçam preços transparentes, suporte operacional especializado e expertise de engenharia excepcional para ajudar a solucionar problemas. Esses fatores acelerarão tanto sua experimentação quanto sua escala.

Onde você vê a Voltage Park em três anos – mais abaixo da pilha em direção a um serviço de IA completo, ou ramificando-se em novas áreas como computação de borda?

Três anos no cenário de IA são uma época. Somos uma empresa centrada no cliente e, em três anos, como agora, estaremos nos concentrando em pontos de dor do mundo real dos clientes, seja no contexto de construir produtos de IA ou consumi-los. Espero que teremos muito mais sofisticação na amplitude e profundidade de nossa pilha de software e um histórico de ajudar as principais empresas do mundo a acelerar a adoção de IA em escala.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Voltage Park.