Saurabh Giri, CPTO da Voltage Park – Série de Entrevistas

Saurabh Giri atua como Chief Product e Technology Officer da Voltage Park e é diretor executivo de sua diretoria. Ele é responsável por impulsionar a visão estratégica da empresa, definir sua estratégia de produtos e operar as operações de engenharia. Anteriormente, Saurabh liderou equipes que construíram, lançaram e operaram a Amazon (AMZN ) Bedrock, plataforma da Amazon para Inteligência Artificial gerativa. No início de sua carreira, Saurabh co-fundou e atuou como CEO de uma plataforma de pagamentos de próxima geração; co-fundou uma empresa de negociação algorítmica especializada em fazer mercado e arbitragem de curva nos mercados de futuros; e aconselhou conselhos e equipes de gestão em estratégia, operações e questões financeiras.

A missão da Voltage Park é ajudar as empresas a transformar dados em inteligência de negócios usando Inteligência Artificial, tornando a infraestrutura de IA acessível a todos. Com dezenas de milhares de GPUs em seis centros de dados, a Voltage Park oferece hardware e serviço de cliente de classe mundial a preços incríveis – independentemente de o cliente ser um pesquisador, uma startup ou uma grande empresa.

Você trabalhou em startups e em uma das maiores provedoras de nuvem do mundo. O que o atraiu originalmente ao mundo da infraestrutura e da IA?

A Inteligência Artificial gerativa será transformadora de uma maneira que poucas tecnologias foram nos últimos cem anos. O que é possível hoje com modelos de fronteira como o GPT-5 da OpenAI seria inconcebível há dez anos e surpreendente até três anos atrás.

Ainda estamos nos primeiros estágios. O que me atrai é a oportunidade de moldar a camada de infraestrutura que determina como uma tecnologia tão profunda será aproveitada – para a ciência, para a indústria e para a sociedade como um todo.

Na AWS, você ajudou a construir a Amazon Bedrock. Quais lições de engenharia de produtos daquela experiência você está aplicando na Voltage Park?

A Amazon Bedrock quebrou novos terrenos de muitas maneiras, e estou muito orgulhoso do que a equipe da Bedrock foi capaz de realizar rapidamente. A principal percepção da Bedrock foi que os construtores precisavam de uma camada de abstração que tornasse a escolha de modelo e modalidade transparente – libertando-os para se concentrar em construir soluções em vez de gerenciar a complexidade da infraestrutura. Foi a primeira plataforma da indústria a fornecer acesso sem esforço a vários modelos de fundação – texto, visão e multimodal – sem exigir que as equipes navegassem por APIs ou restrições de hardware específicas do modelo.

As capacidades dos modelos de fundação estão avançando a um ritmo estonteante – mais rápido do que as mudanças tecnológicas anteriores, como computação em nuvem, móvel ou até mesmo a própria internet. Minha equipe da Bedrock enviou inovações a essa velocidade, antecipando onde as capacidades do modelo estariam duas ou três gerações à frente e construindo para esse futuro.

Na Voltage Park, estamos aplicando o mesmo princípio: mover rápido para entregar infraestrutura e abstrações de software de ponta que resolvem os pontos de dor de hoje, enquanto engenheiramos para onde a tecnologia está indo e o que os clientes precisarão quando a tecnologia do futuro chegar.

Quais foram as principais mudanças técnicas e culturais ao se mudar de uma hyperscaler para uma startup eficiente em capital como a Voltage Park?

Em uma hyperscaler, a engenharia existe dentro de um vasto ecossistema maduro – ferramentas, conformidade, marketing, entrega de clientes – onde o todo excede a soma de suas partes. Em uma startup, você troca esses ventos favoráveis por velocidade, coesão e impacto. Não há burocracia pesada para desacelerá-lo, mas também não há estrutura pré-construída – você precisa criar a sua própria. A recompensa é a coesão cultural e a capacidade de enviar produtos de alto impacto em uma fração do tempo.

A Voltage Park possui mais de 24.000 GPUs H100 e oferece acesso bare-metal a preços competitivos. Quais segmentos de clientes você está visando principalmente?

Nossa plataforma abrange bare metal, máquinas virtuais, Kubernetes gerenciado, Slurm gerenciado e uma pilha de software complementar projetada para cargas de trabalho de IA. Atendemos a qualquer pessoa que construa produtos de IA ou construa com IA: pesquisadores, startups e empresas. Alguns dos construtores de modelos mais sofisticados do mundo hoje, como a Cursor, que está impulsionando o estado da arte em ciência e engenharia de aprendizado de máquina, estão treinando seus modelos na Voltage Park. Da mesma forma, muitas empresas de produtos de IA conhecidas estão executando cargas de inferência na Voltage Park. Para as empresas, estamos reduzindo tanto os custos quanto os limiares de especialização para mover-se facilmente de protótipo para produção e dimensionar as cargas de trabalho de forma confiável.

Como você está gerenciando o uso de energia, eficiência de custo e sustentabilidade à medida que expande sua infraestrutura?

Fizemos e continuamos a fazer investimentos significativos para executar nossos centros de dados de forma eficiente. Conseguimos ganhos significativos em uso de energia e custo por meio de inovações como manutenção preditiva impulsionada por IA, que reduz o tempo de inatividade e evita desperdício em comparação com o serviço reativo. A maioria de nossa pegada atual é alimentada por energia renovável e verde de 99% ou mais, e essa proporção crescerá à medida que expandimos.

Como as parcerias e os padrões estão moldando a evolução da Voltage Park como um provedor de infraestrutura de IA de pilha completa?

Nós nos associamos a empresas que estão movendo a IA da teoria para a transformação. Um bom exemplo é nosso investimento na Matrice.ai, onde lideramos sua expansão de sementes. A expertise de domínio deles em modelos de visão permite que nossos clientes convertam pixels em inteligência com soluções específicas de verticais em várias indústrias. Continuaremos a fornecer a espinha dorsal de infraestrutura de IA para os provedores de modelos implantarem seus modelos em uma pilha de hardware e software modular que entrega desempenho sem comprometer segurança ou privacidade de dados.

Também somos contribuintes ativos para a comunidade de código aberto – apoiando, por exemplo, o SGLang como nosso parceiro de infraestrutura para trazer projetos de código aberto de alta qualidade, como o SpecForge, para a comunidade. E nos associamos à Fundação Nacional de Ciência dos EUA para apoiar o piloto do Recurso Nacional de Pesquisa de IA (NAIRR), uma iniciativa público-privada para expandir o acesso a ferramentas de IA de ponta para pesquisadores e educadores em todo o país.

Quais recursos de gerenciamento de nível empresarial, auditoria ou segurança você está priorizando para os desenvolvedores de IA?

Segurança, privacidade de dados e conformidade são recursos fundamentais de nossa plataforma de fábrica de IA, e nossos clientes têm a tranquilidade de trabalhar com uma pilha de nível empresarial. À medida que construímos nossa pilha de software para atender a pontos de dor adicionais dos clientes, estamos adicionando recursos como permissões de recursos e dados granulares, rastros de auditoria em camadas, barreiras de segurança e integração transparente com pipelines de dados de empresa, APIs e estruturas de agente. O objetivo é dar aos clientes a agilidade da nuvem com o controle de um ambiente local.

Que conselho você tem para os pesquisadores de IA e as equipes de infraestrutura que visam dimensionar de forma eficaz no ambiente de computação limitado de hoje?

Os pesquisadores de IA e as empresas devem tentar minimizar o tempo gasto lidando com desafios de infraestrutura, pois isso é indiferenciado, e aproveitar primitivos de nível superior, como Kubernetes e Slurm gerenciados. Escolha parceiros que ofereçam preços transparentes, suporte operacional especializado e expertise de engenharia excepcional para ajudar a solucionar problemas. Esses fatores acelerarão tanto sua experimentação quanto sua escalada.

Onde você vê a Voltage Park em três anos – mais abaixo da pilha em direção a um serviço completo de IA ou ramificando-se em novas áreas, como computação de borda?

Três anos no cenário de IA são uma época. Somos uma empresa centrada no cliente e, em três anos, assim como agora, estaremos nos concentrando em pontos de dor do mundo real dos clientes, seja no contexto de construir produtos de IA ou consumi-los. Espero que teremos muito mais sofisticação na amplitude e profundidade de nossa pilha de software e um histórico de ajudar as principais empresas do mundo a acelerar a adoção de IA em escala.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Voltage Park.