Saurabh Giri, CPTO de Voltage Park – Serie de entrevistas

Saurabh Giri se desempeña como Director de Producto y Tecnología de Voltage Park y es director ejecutivo de su junta directiva. Es responsable de impulsar la visión estratégica de la empresa, definir su hoja de ruta de producto y dirigir las operaciones de ingeniería. Anteriormente, Saurabh lideró equipos que construyeron, lanzaron y operaron Amazon (AMZN ) Bedrock, la plataforma de Amazon para la inteligencia artificial generativa. Al comienzo de su carrera, Saurabh cofundó y se desempeñó como CEO de una plataforma de pagos de próxima generación; cofundó una empresa de operaciones algortítmicas especializada en hacer mercado y arbitraje de curva en los mercados de futuros; y asesoró a juntas directivas y equipos de gestión en estrategia, operaciones y asuntos financieros.

La misión de Voltage Park es ayudar a las empresas a transformar los datos en inteligencia empresarial utilizando la inteligencia artificial, haciendo que la infraestructura de la inteligencia artificial sea accesible para todos. Con decenas de miles de GPUs en seis centros de datos, Voltage Park ofrece hardware y servicio al cliente de clase mundial a un valor increíble, independientemente de que el cliente sea un investigador, una startup o una gran empresa.

¿Qué te llevó originalmente al mundo de la infraestructura y la inteligencia artificial?

La inteligencia artificial generativa va a ser transformacional de una manera que pocos tecnologías han sido en el último siglo. Lo que es posible hoy con modelos de vanguardia como GPT-5 de OpenAI habría sido inimaginable hace diez años y sorprendente incluso hace tres años.

Todavía estamos en las primeras etapas. La atracción para mí es la oportunidad de dar forma a la capa de infraestructura que determina cómo se aprovechará una tecnología tan profunda, para la ciencia, la industria y la sociedad en general.

En AWS, ayudaste a construir Amazon Bedrock. ¿Qué lecciones de ingeniería de producto de esa experiencia estás aplicando en Voltage Park?

Amazon Bedrock rompió nuevos caminos en muchos sentidos, y estoy muy orgulloso de lo que el equipo de Bedrock pudo lograr rápidamente. La idea central de Bedrock fue que los constructores necesitaban una capa de abstracción que hiciera que la elección del modelo y la modalidad fueran transparentes, liberándolos para centrarse en construir soluciones en lugar de gestionar la complejidad de la infraestructura. Fue la primera plataforma de la industria en proporcionar acceso sin problemas a múltiples modelos de base, texto, visión y multimodal, sin requerir que los equipos navegaran por API específicas de modelo o restricciones de hardware.

Las capacidades de los modelos de base están avanzando a un ritmo asombroso, más rápido que los cambios tecnológicos anteriores como la computación en la nube, la movilidad o incluso Internet en sí. Mi equipo de Bedrock envió innovaciones a ese ritmo, anticipando dónde estarían las capacidades de los modelos dos o tres generaciones por adelantado y construyendo para ese futuro.

En Voltage Park, estamos aplicando el mismo principio: movernos rápidamente para entregar infraestructura y abstracciones de software de vanguardia que resuelvan los puntos de dolor de hoy mientras ingenierizamos hacia dónde se dirige la tecnología y qué necesitarán los clientes cuando llegue la tecnología del futuro.

¿Cuáles fueron los cambios técnicos y culturales más grandes al pasar de un hyperscaler a una startup eficiente en capital como Voltage Park?

En un hyperscaler, la ingeniería existe dentro de un ecosistema maduro y vasto, herramientas, cumplimiento, marketing, entrega al cliente, donde el todo supera la suma de sus partes. En una startup, intercambias esos vientos a favor por velocidad, cohesión e impacto. No hay una burocracia descomunal que te frene, pero tampoco hay una estructura preconstruida, tienes que crear la tuya. La recompensa es la cohesión cultural y la capacidad de enviar productos de alto impacto en una fracción del tiempo.

Voltage Park posee más de 24.000 GPUs H100 y ofrece acceso a metal desnudo a precios competitivos. ¿Qué segmentos de clientes están apuntando principalmente?

Nuestra plataforma abarca metal desnudo, máquinas virtuales, Kubernetes administrados, Slurm administrado y una pila de software complementaria diseñada para cargas de trabajo de inteligencia artificial. Servimos a cualquiera que esté construyendo productos de inteligencia artificial o construyendo con inteligencia artificial: investigadores, startups y empresas. Algunos de los constructores de modelos más sofisticados del mundo hoy en día, como Cursor, que está impulsando el estado del arte en la ciencia y la ingeniería de aprendizaje automático, están entrenando sus modelos en Voltage Park. De manera similar, muchas empresas de productos de inteligencia artificial conocidas están ejecutando cargas de trabajo de inferencia en Voltage Park. Para las empresas, estamos reduciendo tanto el umbral de costo como el umbral de experiencia para pasar fácilmente de prototipo a producción y escalar las cargas de trabajo de manera confiable.

¿Cómo están gestionando el uso de energía, la eficiencia de costo y la sostenibilidad a medida que escalan su huella de infraestructura?

Hemos hecho y seguimos haciendo inversiones significativas en la ejecución eficiente de nuestros centros de datos. Hemos logrado ganancias significativas en el uso de energía y costo a través de innovaciones como el mantenimiento predictivo impulsado por la inteligencia artificial, que reduce el tiempo de inactividad y evita el desperdicio en comparación con el servicio reactivo. La mayoría de nuestra huella actual está alimentada por energía renovable y verde al 99% o más, y esa proporción crecerá a medida que expandamos.

¿Cómo están dando forma las asociaciones y los estándares a la evolución de Voltage Park como proveedor de infraestructura de inteligencia artificial de pila completa?

Nos asociamos con empresas que están moviendo la inteligencia artificial desde lo teórico a lo transformacional. Un buen ejemplo es nuestra inversión en Matrice.ai, donde lideramos su expansión de semilla. Su experiencia en modelos de visión permite a nuestros clientes convertir píxeles en inteligencia con soluciones específicas del sector en múltiples industrias. Seguiremos brindando la columna vertebral de infraestructura de inteligencia artificial a los proveedores de modelos para que puedan implementar sus modelos en una pila de hardware y software modular e integrada que ofrece rendimiento sin comprometer la seguridad o la privacidad de los datos.

También somos contribuyentes activos a la comunidad de código abierto, apoyando, por ejemplo, a SGLang como su socio de infraestructura para llevar proyectos de código abierto de alta calidad como SpecForge a la comunidad. Y nos hemos asociado con la Fundación Nacional de Ciencia de EE. UU. para apoyar el piloto de la Iniciativa Nacional de Recursos de Investigación de Inteligencia Artificial (NAIRR), una iniciativa público-privada para ampliar el acceso a herramientas de inteligencia artificial de vanguardia para investigadores y educadores en todo el país.

¿Qué características de gestión de nivel empresarial, auditoría o seguridad están priorizando para los desarrolladores de inteligencia artificial?

La seguridad, la privacidad de los datos y el cumplimiento son características fundamentales de nuestra plataforma de fábrica de inteligencia artificial, y nuestros clientes tienen la tranquilidad de trabajar con una pila de nivel empresarial. A medida que construimos nuestra pila de software para abordar puntos de dolor adicionales de los clientes, estamos agregando características como permisos de recursos y datos granulares, rastros de auditoría jerárquicos, guardias de seguridad y una integración sin problemas con tuberías de datos empresariales, API y marcos de agentes. El objetivo es dar a los clientes la agilidad de la nube con el control de un entorno local.

¿Qué consejo tienen para los investigadores de inteligencia artificial y los equipos de infraestructura que buscan escalar de manera efectiva en el entorno de computación limitado de hoy en día?

Los investigadores y las empresas de inteligencia artificial deberían tratar de minimizar el tiempo que pasan lidiando con desafíos de infraestructura, ya que es indiferenciado, y aprovechar primitives de nivel superior como Kubernetes administrados y Slurm. Elijan socios que ofrezcan precios transparentes, soporte operativo experto y una excepcional experiencia en ingeniería para ayudar a solucionar problemas. Esos factores acelerarán tanto su experimentación como su escalada.

¿Dónde ve a Voltage Park dentro de tres años, más abajo en la pila hacia un servicio completo de inteligencia artificial o ramificándose en nuevas áreas como la computación de borde?

Tres años en el panorama de la inteligencia artificial son una época. Somos una empresa centrada en el cliente y, dentro de tres años, como ahora, nos centraremos en los puntos de dolor del mundo real de los clientes, ya sea en el contexto de la construcción de productos de inteligencia artificial o el consumo de ellos. Espero que tendremos mucha más sofisticación en la amplitud y profundidad de nuestra pila de software, y un historial de ayudar a las empresas líderes del mundo a acelerar la adopción de la inteligencia artificial a escala.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Voltage Park.