Saurabh Giri, CPTO de Voltage Park – Serie de entrevistas

Saurabh Giri se desempeña como Director de Producto y Tecnología en Voltage Park y es director ejecutivo de su junta directiva. Es responsable de impulsar la visión estratégica de la empresa, definir su hoja de ruta de productos y dirigir las operaciones de ingeniería. Anteriormente, Saurabh lideró equipos que construyeron, lanzaron y operaron Amazon Bedrock, la plataforma de Amazon para inteligencia artificial generativa. Al comienzo de su carrera, Saurabh cofundó y se desempeñó como CEO de una plataforma de pagos de próxima generación; cofundó una empresa de negociación algorítmica especializada en hacer mercado y arbitraje de curva en los mercados de futuros; y asesoró a juntas directivas y equipos de gestión en estrategia, operaciones y asuntos financieros.

La misión de Voltage Park es ayudar a las empresas a transformar los datos en inteligencia empresarial utilizando la inteligencia artificial, haciendo que la infraestructura de inteligencia artificial sea accesible para todos. Con decenas de miles de GPU en seis centros de datos, Voltage Park ofrece hardware y servicio al cliente de clase mundial a un valor increíble, independientemente de que el cliente sea un investigador, una startup o una gran empresa.

¿Qué te llevó originalmente al mundo de la infraestructura y la inteligencia artificial, habiendo trabajado en startups y en uno de los proveedores de nube más grandes del mundo?

La inteligencia artificial generativa va a ser transformacional de una manera que pocos cambios tecnológicos han tenido en el último siglo. Lo que es posible hoy con modelos fronterizos como GPT-5 de OpenAI habría sido inconcebible hace diez años y sorprendente incluso hace tres años.

Todavía estamos en las primeras etapas. Lo que me atrae es la oportunidad de dar forma a la capa de infraestructura que determinará cómo se aprovechará una tecnología tan profunda, para la ciencia, la industria y la sociedad en general.

En AWS, ayudaste a construir Amazon Bedrock. ¿Qué lecciones de ingeniería de productos de esa experiencia estás aplicando en Voltage Park?

Amazon Bedrock rompió nuevos caminos de muchas maneras, y estoy realmente orgulloso de lo que el equipo de Bedrock pudo lograr rápidamente. La idea central de Bedrock fue que los constructores necesitaban una capa de abstracción que hiciera que la elección del modelo y la modalidad fueran transparentes, liberándolos para centrarse en construir soluciones en lugar de gestionar la complejidad de la infraestructura. Fue la primera plataforma de la industria en proporcionar acceso sin problemas a varios modelos de base, texto, visión y multimodal, sin requerir que los equipos navegaran por APIs o restricciones de hardware específicas del modelo.

Las capacidades de los modelos de base están avanzando a un ritmo asombroso, más rápido que los cambios tecnológicos anteriores, como la computación en la nube, la movilidad o incluso Internet en sí. Mi equipo de Bedrock envió innovaciones a ese ritmo, anticipando dónde estarían las capacidades de los modelos dos o tres generaciones por delante y construyendo para ese futuro.

En Voltage Park, estamos aplicando el mismo principio: Moverse rápidamente para entregar infraestructura y abstracciones de software de vanguardia que resuelvan los puntos dolorosos de hoy, mientras se ingenian para dónde se dirige la tecnología y qué necesitarán los clientes cuando llegue la tecnología del futuro.

¿Cuáles fueron los mayores cambios técnicos y culturales al pasar de un hiperscaler a una startup eficiente en capital como Voltage Park?

En un hiperscaler, la ingeniería existe dentro de un vasto ecosistema maduro, herramientas, cumplimiento, marketing, entrega al cliente, donde el todo supera la suma de sus partes. En una startup, intercambias esos vientos de cola por velocidad, cohesión e impacto. No hay una burocracia descomunal que te frene, pero tampoco hay una estructura preconstruida, tienes que crearla tú mismo. La recompensa es la cohesión cultural y la capacidad de enviar productos de alto impacto en una fracción del tiempo.

Voltage Park posee más de 24.000 GPU H100 y ofrece acceso a metal desnudo a precios competitivos. ¿Qué segmentos de clientes está apuntando principalmente?

Nuestra plataforma abarca metal desnudo, máquinas virtuales, Kubernetes administrados, Slurm administrado y una pila de software complementaria diseñada para cargas de trabajo de inteligencia artificial. Servimos a cualquiera que esté construyendo productos de inteligencia artificial o construyendo con inteligencia artificial: investigadores, startups y empresas. Algunos de los constructores de modelos más sofisticados del mundo hoy en día, como Cursor, que está impulsando el estado del arte en ciencia y ingeniería de aprendizaje automático, están entrenando sus modelos en Voltage Park. De manera similar, muchas empresas de productos de inteligencia artificial conocidas están ejecutando cargas de trabajo de inferencia en Voltage Park. Para las empresas, estamos reduciendo tanto el umbral de costo como el umbral de experiencia para pasar de prototipo a producción fácilmente y escalar las cargas de trabajo de manera confiable.

¿Cómo está gestionando el uso de energía, la eficiencia de costo y la sostenibilidad a medida que amplía su huella de infraestructura?

Hemos hecho y seguimos haciendo inversiones significativas en la ejecución eficiente de nuestros centros de datos. Hemos logrado ganancias significativas en el uso de energía y costo a través de innovaciones como el mantenimiento predictivo impulsado por inteligencia artificial, que reduce el tiempo de inactividad y evita el desperdicio en comparación con el servicio reactivo. La mayoría de nuestra huella actual está alimentada por energía renovable y verde al 99% o más, y esa proporción crecerá a medida que expandamos.

¿Cómo están dando forma las asociaciones y los estándares a la evolución de Voltage Park como proveedor de infraestructura de inteligencia artificial de pilas completas?

Nos asociamos con empresas que están llevando la inteligencia artificial desde lo teórico a lo transformacional. Un buen ejemplo es nuestra inversión en Matrice.ai, donde lideramos su expansión de semillas. Su experiencia en modelos de visión permite a nuestros clientes convertir píxeles en inteligencia con soluciones específicas de dominio en múltiples industrias. Seguiremos brindando la columna vertebral de infraestructura de inteligencia artificial a los proveedores de modelos para implementar sus modelos en una pila de hardware y software modular e integrada que ofrece rendimiento sin comprometer la seguridad o la privacidad de los datos.

También somos un contribuyente activo a la comunidad de código abierto, apoyando, por ejemplo, a SGLang como su socio de infraestructura para llevar proyectos de código abierto de alta calidad como SpecForge a la comunidad. Y nos hemos asociado con la Fundación Nacional de Ciencia de EE. UU. para apoyar el piloto de Recurso Nacional de Investigación de Inteligencia Artificial (NAIRR), una iniciativa público-privada para expandir el acceso a herramientas de inteligencia artificial de vanguardia para investigadores y educadores en todo el país.

¿Qué características de gestión de nivel empresarial, auditoría o seguridad está priorizando para los desarrolladores de inteligencia artificial?

La seguridad, la privacidad de los datos y el cumplimiento son características fundamentales de nuestra plataforma de fábrica de inteligencia artificial, y nuestros clientes tienen la tranquilidad de trabajar con una pila de nivel empresarial. A medida que construimos nuestra pila de software para abordar puntos dolorosos adicionales de los clientes, estamos agregando características como permisos de recursos y datos granulares, registros de auditoría en niveles, barandillas de seguridad y una integración sin problemas con tuberías de datos empresariales, API y marcos de agentes. El objetivo es dar a los clientes la agilidad de la nube con el control de un entorno local.

¿Qué consejo tiene para los investigadores de inteligencia artificial y los equipos de infraestructura que buscan escalar de manera efectiva en el entorno de cómputo limitado de hoy en día?

Los investigadores de inteligencia artificial y las empresas deberían tratar de minimizar el tiempo que pasan lidiando con desafíos de infraestructura, ya que es indiferenciado, y aprovechar primitivos de nivel superior como Kubernetes administrados y Slurm. Elijan socios que ofrezcan precios transparentes, soporte operativo experto y una excepcional experiencia en ingeniería para ayudar a solucionar problemas. Esos factores acelerarán tanto su experimentación como su escalada.

¿Dónde ve a Voltage Park en tres años, más abajo en la pila hacia un servicio completo de inteligencia artificial como servicio, o ramificándose en nuevas áreas como el cómputo de borde?

Tres años en el panorama de la inteligencia artificial son una época. Somos una empresa centrada en el cliente y en tres años, como ahora, nos centraremos en los puntos dolorosos reales de los clientes, ya sea en el contexto de la construcción de productos de inteligencia artificial o consumiéndolos. Espero que tengamos mucha más sofisticación en la amplitud y profundidad de nuestra pila de software, y un historial de ayudar a las empresas líderes del mundo a acelerar la adopción de la inteligencia artificial a escala.

Gracias por la gran entrevista, los lectores que deseen obtener más información deben visitar Voltage Park.