Modèles et plateformes d’IA
vCluster ajoute des clouds privés en libre-service pour du matériel dédié à l’IA
vCluster Platform v5.0 donne aux clients de clouds d’IA un accès en libre-service à des serveurs dédiés et à des environnements Kubernetes, Slurm et d’inférence approuvés par le fournisseur.
Points clésvCluster Platform v5.0 permet aux clients de provisionner des serveurs GPU bare-metal…
Voir plus
- vCluster Platform v5.0 permet aux clients de provisionner des serveurs GPU bare-metal sans que le personnel du fournisseur traite chaque demande.
- Les fournisseurs contrôlent les types de machines et les modèles auxquels chaque locataire peut accéder, tandis que les clients s'en servent eux-mêmes dans les limites des quotas.
- La disponibilité limitée signifie que les opérateurs doivent encore vérifier la compatibilité et mesurer si les charges de support diminuent réellement.
vCluster Labs a lancé vCluster Platform v5.0, disponible de manière limitée, permettant aux fournisseurs de clouds d’IA de proposer des environnements en libre-service sur des serveurs physiques dédiés. Les clients peuvent provisionner des machines à partir de la capacité qui leur est allouée, sélectionner une image de système d’exploitation et lancer des clusters Kubernetes, Slurm ou d’inférence sans demander au fournisseur de traiter chaque requête.
La version du 19 novembre répond à un problème pratique pour les opérateurs qui se sont déjà engagés à fournir de la capacité sur des serveurs physiques dédiés. Un client peut louer un parc de serveurs GPU tout en dépendant de l’équipe d’exploitation du fournisseur pour préparer les machines à de nouveaux projets. La nouvelle plateforme confie certaines de ces décisions au client, tandis que le fournisseur conserve la propriété du matériel et l’attribution de la capacité.
Un inventaire unique pour les machines physiques
Cette version intègre les serveurs physiques à un inventaire géré par vMetal, le composant de provisionnement sous-jacent à la plateforme. L’opérateur attribue de la capacité aux clients ou la laisse disponible à la demande, puis définit les types de machines, les images et les modèles de clusters auxquels chaque client peut accéder. La plateforme instaure, au-dessus des projets individuels, une frontière explicite entre les clients, appelée tenant. Des quotas limitent la capacité qu’un client peut réclamer, et les clients ne peuvent pas voir les ressources auxquelles ils n’ont pas accès.
Pour l’équipe chargée de la plateforme chez un client, cela signifie que plusieurs groupes internes peuvent utiliser le même contrat sans que chacun ait besoin d’obtenir une nouvelle allocation du fournisseur. Une équipe de recherche pourrait configurer un environnement Slurm pour gérer des tâches planifiées, tandis qu’une équipe de développement utiliserait Kubernetes pour déployer un service d’inférence. Le fournisseur décide quelles configurations il prend en charge, et le client peut choisir parmi celles-ci. Le degré de contrôle du client dépend donc de ce que comprend son allocation et des modèles mis à sa disposition par le fournisseur.
L’entreprise indique que les fournisseurs peuvent utiliser sa console ou créer un portail à leur marque reposant sur la même API sous-jacente. Cette distinction compte pour les opérateurs qui vendent des infrastructures sous leur propre marque : l’interface peut varier sans qu’il soit nécessaire de créer un système distinct d’inventaire et de provisionnement pour chaque type de service.
Du matériel dédié avec un provisionnement de type cloud
L’infrastructure bare metal donne accès à des serveurs physiques plutôt qu’à des instances partageant un hôte avec d’autres clients. Cette solution peut séduire les acheteurs qui souhaitent une configuration matérielle connue, une capacité dédiée en accélérateurs ou la maîtrise de l’environnement logiciel. Mais réserver des machines physiques ne suffit pas, à lui seul, à fournir un service cloud opérationnel. Il faut encore installer le système d’exploitation, configurer les accès et préparer le cluster.
L’approche de vCluster associe des machines dédiées et un réseau propre à chaque client à un provisionnement en libre-service. Un fournisseur peut utiliser le même inventaire pour proposer aussi bien la simple location de serveurs que des offres plus gérées. L’intérêt commercial est qu’en réduisant le nombre d’étapes prises en charge par le personnel du fournisseur, l’intégration de chaque client pourrait être facilitée, tandis que les acheteurs qui préfèrent un cluster géré peuvent choisir un autre niveau de service. Cette version n’établit pas les économies que l’une ou l’autre partie pourrait réaliser ; les résultats économiques dépendront du taux d’utilisation du matériel et du niveau d’assistance dont les clients ont besoin.
La façon dont les opérateurs gèrent le matériel inutilisé entre deux projets compte également. La capacité réservée offre de la prévisibilité aux acheteurs, mais ces machines peuvent rester inaccessibles aux autres clients même lorsqu’elles sont à l’arrêt. Un parc disponible à la demande peut accroître la flexibilité, mais seulement si le fournisseur est en mesure de répondre de façon fiable à la demande. La plateforme permet aux fournisseurs de proposer les deux modèles ; elle ne les dispense pas de fixer les conditions de réservation ni de prévoir les pénuries.
Ce que la disponibilité limitée implique pour les opérateurs
La version 5.0 n’est pas disponible de manière générale. La documentation du fournisseur recommande de conserver les versions existantes bénéficiant d’une assistance à long terme, Platform v4.12 et vCluster v0.37, pour les déploiements en cours. Les opérateurs qui envisagent d’adopter la nouvelle version doivent encore évaluer sa compatibilité avec leurs outils de provisionnement et de mise en réseau, et vérifier que les clients peuvent passer de l’allocation d’une machine à un cluster opérationnel sans créer de nouveaux goulots d’étranglement en matière d’assistance.
Le premier test est opérationnel : il s’agit de déterminer à quelle vitesse un fournisseur peut livrer une infrastructure fonctionnelle après l’attribution du matériel, et à quelle fréquence les clients ont ensuite besoin d’aide. Si ces indicateurs s’améliorent sans compliquer la gestion de la capacité dédiée, le libre-service pourrait devenir un facteur de différenciation important entre les fournisseurs de clouds d’IA qui vendent du matériel similaire.












