Saurabh Giri, CPTO de Voltage Park – Série d’entretiens

Saurabh Giri sert en tant que directeur des produits et de la technologie chez Voltage Park et est un directeur exécutif de son conseil d’administration. Il est responsable de la conduite de la vision stratégique de l’entreprise, de la définition de sa feuille de route de produits et de la direction des opérations d’ingénierie. Auparavant, Saurabh a dirigé des équipes qui ont conçu, lancé et exploité Amazon (AMZN ) Bedrock, la plate-forme d’Amazon pour l’IA générative. Plus tôt dans sa carrière, Saurabh a co-fondé et a servi en tant que PDG d’une plate-forme de paiement de nouvelle génération ; co-fondé une société de trading algorithmique spécialisée dans la création de marché et l’arbitrage de courbe sur les marchés à terme ; et a conseillé les conseils d’administration et les équipes de direction sur la stratégie, les opérations et les questions financières.

La mission de Voltage Park est d’aider les entreprises à transformer les données en intelligence commerciale en utilisant l’IA, en rendant l’infrastructure d’IA accessible à tous. Avec des dizaines de milliers de GPU dans six centres de données, Voltage Park offre un matériel de classe mondiale et un service client exceptionnel à un prix incroyable – qu’il s’agisse d’un chercheur, d’une startup ou d’une grande entreprise.

Vous avez travaillé dans des startups et dans l’un des plus grands fournisseurs de cloud au monde. Qu’est-ce qui vous a initialement attiré dans le monde de l’infrastructure et de l’IA ?

L’IA générative sera transformationnelle d’une manière qui change les règles du jeu, comme peu de technologies l’ont fait au cours du siècle dernier. Ce qui est possible aujourd’hui avec des modèles de frontière comme OpenAI’s GPT-5 aurait été inconcevable il y a dix ans et surprenant même il y a trois ans.

Nous sommes encore dans les premiers stades. L’attrait pour moi est l’opportunité de façonner la couche d’infrastructure qui détermine comment une technologie aussi profonde sera exploitée – pour la science, pour l’industrie et pour la société dans son ensemble.

A AWS, vous avez aidé à construire Amazon Bedrock. Quelles leçons d’ingénierie de produits de cette expérience appliquez-vous chez Voltage Park ?

Amazon Bedrock a ouvert de nouvelles voies dans de nombreux domaines, et je suis vraiment fier de ce que l’équipe Bedrock a pu accomplir rapidement. L’intuition fondamentale de Bedrock était que les constructeurs avaient besoin d’une couche d’abstraction qui rendait le choix de modèle et la modalité transparents – les libérant pour se concentrer sur la construction de solutions plutôt que sur la gestion de la complexité de l’infrastructure. C’était la première plate-forme de l’industrie à offrir un accès sans faille à plusieurs modèles de base – texte, vision et multimodal – sans exiger que les équipes naviguent dans des API ou des contraintes matérielles spécifiques au modèle.

Les capacités des modèles de base progressent à un rythme stupéfiant – plus rapide que les changements technologiques antérieurs tels que le cloud computing, le mobile ou même l’internet lui-même. Mon équipe Bedrock a livré des innovations à ce rythme, en anticipant où les capacités des modèles seraient deux ou trois générations plus tard et en construisant pour cet avenir.

Chez Voltage Park, nous appliquons le même principe : aller vite pour livrer des infrastructures et des abstractions logicielles de pointe qui résolvent les points de douleur d’aujourd’hui tout en ingénieriant pour où la technologie est orientée et ce que les clients auront besoin lorsque la technologie de demain arrivera.

Quels ont été les plus grands changements techniques et culturels dans le passage d’un hyperscaler à une startup efficiente en capital comme Voltage Park ?

Dans un hyperscaler, l’ingénierie existe à l’intérieur d’un écosystème vaste et mature – outils, conformité, marketing, livraison de clients – où l’ensemble dépasse la somme de ses parties. Dans une startup, vous échangez ces vents arrière pour la vitesse, la cohésion et l’impact. Il n’y a pas de bureaucratie étendue pour vous ralentir, mais il n’y a pas non plus de scaffolding préconstruit – vous devez créer le vôtre. La récompense est la cohésion culturelle et la capacité à livrer des produits à impact élevé en une fraction du temps.

Voltage Park possède plus de 24 000 GPU H100 et offre un accès bare-metal à des prix compétitifs. Quels sont les segments de clients que vous ciblez principalement ?

Notre plate-forme s’étend sur le bare-metal, les machines virtuelles, les Kubernetes gérés, les Slurm gérés et une pile logicielle complémentaire conçue pour les charges de travail d’IA. Nous servons quiconque construit des produits d’IA ou construit avec l’IA : chercheurs, startups et entreprises. Certains des constructeurs de modèles les plus sophistiqués au monde aujourd’hui, tels que Cursor, qui pousse l’état de l’art en science et en ingénierie du machine learning, forment leurs modèles sur Voltage Park. De même, de nombreuses sociétés de produits d’IA bien connues exécutent des charges de travail d’inférence sur Voltage Park. Pour les entreprises, nous réduisons à la fois les seuils de coût et d’expertise pour passer facilement d’un prototype à une production et mettre à l’échelle les charges de travail de manière fiable.

Comment gérez-vous l’utilisation de l’énergie, l’efficacité coût et la durabilité à mesure que vous développez votre empreinte d’infrastructure ?

Nous avons effectué et continuons à effectuer des investissements importants pour exécuter nos centres de données de manière efficace. Nous avons réalisé des gains importants en termes d’utilisation de l’énergie et de coûts grâce à des innovations telles que la maintenance prédictive basée sur l’IA, qui réduit les temps d’arrêt et évite les gaspillages par rapport à un service réactif. La majorité de notre empreinte actuelle est alimentée par une énergie renouvelable et verte à 99 % ou plus, et ce ratio augmentera à mesure que nous nous développerons.

Comment les partenariats et les normes façonnent-ils l’évolution de Voltage Park en tant que fournisseur d’infrastructure d’IA full-stack ?

Nous nous associons à des sociétés qui font passer l’IA de théorique à transformationnel. Un bon exemple est notre investissement dans Matrice.ai, où nous avons dirigé leur expansion de financement initial. Leur expertise de domaine dans les modèles de vision permet à nos clients de convertir les pixels en intelligence avec des solutions spécifiques aux secteurs d’activité à travers plusieurs industries. Nous allons continuer à fournir la colonne vertébrale de l’infrastructure d’IA aux fournisseurs de modèles pour déployer leurs modèles dans une pile matériel-logiciel modulaire et intégrée qui offre des performances sans compromettre la sécurité ou la confidentialité des données.

Nous sommes également un contributeur actif à la communauté open-source – en soutenant, par exemple, SGLang en tant que partenaire d’infrastructure pour apporter des projets open-source de haute qualité comme SpecForge à la communauté. Et nous nous sommes associés à la Fondation nationale pour la science des États-Unis pour soutenir le projet pilote de la ressource nationale de recherche en IA (NAIRR), une initiative public-privée visant à élargir l’accès aux outils d’IA de pointe pour les chercheurs et les éducateurs à l’échelle nationale.

Quelles fonctionnalités de gestion, de traçabilité ou de sécurité de niveau entreprise priorisez-vous pour les développeurs d’IA ?

La sécurité, la confidentialité des données et la conformité sont des fonctionnalités fondamentales de notre plate-forme d’usine d’IA, et nos clients ont la tranquillité d’esprit de travailler avec une pile de niveau entreprise. À mesure que nous développons notre pile logicielle pour répondre à d’autres points de douleur des clients, nous ajoutons des fonctionnalités telles que des autorisations de ressources et de données granulaires, des traces d’audit hiérarchisées, des garde-fous de sécurité et une intégration transparente avec les pipelines de données d’entreprise, les API et les cadres d’agent. L’objectif est de donner aux clients l’agilité du cloud avec le contrôle d’un environnement local.

Quels conseils avez-vous pour les chercheurs en IA et les équipes d’infrastructure qui visent à mettre à l’échelle de manière efficace dans l’environnement de calcul actuellement contraint ?

Les chercheurs en IA et les sociétés devraient essayer de minimiser le temps qu’ils passent à résoudre les défis d’infrastructure, car il s’agit d’une tâche non différenciée, et profiter des primitives de niveau supérieur telles que les Kubernetes gérés et Slurm. Choisissez des partenaires qui offrent des tarifs transparents, un support opérationnel expert et une expertise d’ingénierie exceptionnelle pour aider à résoudre les problèmes. Ces facteurs accéléreront à la fois votre experimentation et votre mise à l’échelle.

Où voyez-vous Voltage Park dans trois ans – plus bas dans la pile vers un service d’IA complet, ou en branchant dans de nouveaux domaines comme le calcul de bord ?

Trois ans dans le paysage de l’IA, c’est une époque. Nous sommes une entreprise axée sur le client et, dans trois ans, comme maintenant, nous nous concentrerons sur les points de douleur réels des clients, que ce soit dans le contexte de la construction de produits d’IA ou de la consommation de ceux-ci. Je m’attends à ce que nous ayons beaucoup plus de sophistication dans la largeur et la profondeur de notre pile logicielle, et un historique d’aide aux principales entreprises du monde à accélérer l’adoption de l’IA à grande échelle.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Voltage Park.