Alex Yeh, Fondateur et PDG de GMI Cloud – Série d’entretiens

Alex Yeh est le fondateur et le PDG de GMI Cloud, une entreprise de infrastructure numérique à capitaux-risqueux dont la mission est de permettre à quiconque de déployer l’IA sans effort et de simplifier la façon dont les entreprises conçoivent, déployent et mettent à l’échelle l’IA grâce à des solutions matérielles et logicielles intégrées

Qu’est-ce qui vous a inspiré pour créer GMI Cloud, et comment votre expérience a-t-elle influencé votre approche pour construire l’entreprise ?

GMI Cloud a été fondé en 2021, se concentrant principalement pendant ses deux premières années sur la construction et l’exploitation de centres de données pour fournir des nœuds de calcul Bitcoin. Au cours de cette période, nous avons établi trois centres de données en Arkansas et au Texas.

En juin de l’année dernière, nous avons remarqué une forte demande de la part des investisseurs et des clients pour la puissance de calcul des GPU. Dans le mois qui a suivi, j’ai décidé de me tourner vers l’infrastructure cloud pour l’IA. Le développement rapide de l’IA et la vague de nouvelles opportunités commerciales qu’elle apporte sont soit impossibles à prévoir, soit difficiles à décrire. En fournissant les infrastructures essentielles, GMI Cloud vise à rester étroitement aligné sur les opportunités passionnantes et souvent inimaginables de l’IA.

Avant GMI Cloud, j’étais associé dans une société de capital-risque, engageant régulièrement avec des industries émergentes. Je vois l’intelligence artificielle comme la dernière “ruée vers l’or” du 21e siècle, avec les GPU et les serveurs d’IA servant de “pelles” pour les “prospecteurs” modernes, stimulant une croissance rapide pour les entreprises de cloud spécialisées dans la location de puissance de calcul des GPU.

Pouvez-vous nous parler de la mission de GMI Cloud pour simplifier l’infrastructure de l’IA et pourquoi cette focalisation est si cruciale sur le marché d’aujourd’hui ?

Simplifier l’infrastructure de l’IA est essentiel en raison de la complexité et de la fragmentation actuelles de la pile d’IA, qui peuvent limiter l’accessibilité et l’efficacité pour les entreprises qui visent à exploiter le potentiel de l’IA. Les installations d’IA d’aujourd’hui impliquent souvent plusieurs couches disjointes – de la prétraitement des données à la formation de modèles, au déploiement et à la mise à l’échelle – qui nécessitent beaucoup de temps, des compétences spécialisées et des ressources pour gérer efficacement. De nombreuses entreprises passent des semaines, voire des mois, à identifier les couches les plus adaptées de l’infrastructure d’IA, un processus qui peut s’étendre sur des semaines ou des mois, affectant l’expérience utilisateur et la productivité.

1. Accélération du déploiement: Une infrastructure simplifiée permet un développement et un déploiement plus rapides des solutions d’IA, aidant les entreprises à rester compétitives et adaptables aux besoins changeants du marché.
2. Réduction des coûts et des ressources: En minimisant le besoin de matériel spécialisé et d’intégrations personnalisées, une pile d’IA rationalisée peut réduire considérablement les coûts, rendant l’IA plus accessible, en particulier pour les petites entreprises.
3. Activation de la scalabilité: Une infrastructure bien intégrée permet une gestion efficace des ressources, essentielle pour la mise à l’échelle des applications à mesure que la demande augmente, garantissant que les solutions d’IA restent robustes et réactives à plus grande échelle.
4. Amélioration de l’accessibilité: L’infrastructure simplifiée rend plus facile pour un plus large éventail d’organisations d’adopter l’IA sans nécessiter une expertise technique étendue. Cette démocratisation de l’IA favorise l’innovation et crée de la valeur dans plus d’industries.
5. Soutien à l’innovation rapide: À mesure que la technologie d’IA progresse, une infrastructure moins complexe facilite l’intégration de nouveaux outils, modèles et méthodes, permettant aux organisations de rester agiles et d’innover rapidement.

La mission de GMI Cloud pour simplifier l’infrastructure de l’IA est essentielle pour aider les entreprises et les startups à réaliser pleinement les avantages de l’IA, en la rendant accessible, rentable et évolutivité pour les organisations de toutes tailles.

Vous avez récemment obtenu 82 millions de dollars en financement de série A. Comment ce nouveau capital sera-t-il utilisé, et quels sont vos objectifs d’expansion immédiats ?

GMI Cloud utilisera le financement pour ouvrir un nouveau centre de données dans le Colorado et investir principalement dans des GPU H200 pour construire un nouveau cluster de GPU à grande échelle. GMI Cloud développe également sa propre plate-forme de gestion de ressources cloud-native, Cluster Engine, qui est intégrée de manière transparente à notre matériel avancé. Cette plate-forme offre des capacités inégalées en virtualisation, en conteneurisation et en orchestration.

GMI Cloud offre un accès aux GPU à 2 fois la vitesse par rapport à la concurrence. Quelles approches ou technologies uniques rendent cela possible ?

Un aspect clé de l’approche unique de GMI Cloud est l’utilisation de l’NCP de NVIDIA (NVDA ), qui fournit à GMI Cloud un accès prioritaire aux GPU et à d’autres ressources de pointe. Cette approvisionnement direct auprès des fabricants, combiné à des options de financement solides, garantit l’efficacité des coûts et une chaîne d’approvisionnement très sécurisée.

Avec les GPU H100 NVIDIA disponibles dans cinq emplacements mondiaux, comment cette infrastructure soutient-elle les besoins de vos clients d’IA aux États-Unis et en Asie ?

GMI Cloud a établi une présence mondiale, servant de nombreux pays et régions, y compris Taïwan, les États-Unis et la Thaïlande, avec un réseau de centres de données Internet (IDC) dans le monde entier. Actuellement, GMI Cloud exploite des milliers de cartes de GPU basées sur NVIDIA Hopper, et il est sur une trajectoire d’expansion rapide, avec des plans pour multiplier ses ressources au cours des six prochains mois. Cette répartition géographique permet à GMI Cloud de fournir un service fluide et à faible latence aux clients de différentes régions, en optimisant l’efficacité du transfert de données et en offrant un soutien d’infrastructure robuste aux entreprises qui élargissent leurs opérations d’IA dans le monde entier.

En outre, les capacités mondiales de GMI Cloud lui permettent de comprendre et de répondre aux demandes et aux exigences réglementaires diverses des marchés à travers les régions, en offrant des solutions personnalisées adaptées aux besoins uniques de chaque localité. Avec une piscine croissante de ressources de calcul, GMI Cloud répond à la demande croissante de puissance de calcul d’IA, offrant aux clients une capacité de calcul ample pour accélérer la formation de modèles, améliorer la précision et améliorer les performances des modèles pour une large gamme de projets d’IA.

En tant que leader dans les services cloud natifs d’IA, quels sont les tendances ou les besoins des clients sur lesquels vous vous concentrez pour faire progresser la technologie de GMI ?

Des GPU aux applications, GMI Cloud stimule la transformation intelligente pour les clients, en répondant aux besoins du développement de la technologie d’IA.

Architecture matérielle:

• Architecture de cluster physique: Des instances comme les 1250 H100 incluent des racks de GPU, des racks de feuilles et des racks de colonne vertébrale, avec des configurations optimisées de serveurs et d’équipements réseau qui offrent une puissance de calcul de haute performance.
• Structure de la topologie du réseau: Conçue avec une toile IB efficace et une toile Ethernet, garantissant une transmission de données fluide et une communication.

Logiciels et services:

• Cluster Engine: En utilisant un moteur développé en interne pour gérer des ressources telles que le métal nu, les conteneurs/containers et HPC Slurm, permettant une allocation optimale des ressources pour les utilisateurs et les administrateurs.
• Plate-forme cloud propriétaire: Le CLUSTER ENGINE est un système de gestion de cloud propriétaire qui optimise la planification des ressources, offrant une solution de gestion de cluster flexible et efficace

Ajouter la feuille de route du moteur d’inférence:

1. Calcul continu, garantir un SLA élevé.
2. Partage du temps pour une utilisation fractionnaire.
3. Instance de spot

Services de consultation et personnalisés: Offre des services de consultation, des rapports de données et des services personnalisés tels que la conteneurisation, les recommandations de formation de modèles et les plateformes MLOps sur mesure.

Fonctionnalités de sécurité et de surveillance robustes: Inclut le contrôle d’accès basé sur les rôles (RBAC), la gestion des groupes d’utilisateurs, la surveillance en temps réel, le suivi historique et les notifications d’alerte.

Quels sont, selon vous, les plus grands défis et opportunités pour l’infrastructure d’IA au cours des prochaines années ?

Défis:

1. Scalabilité et coûts: À mesure que les modèles deviennent plus complexes, maintenir la scalabilité et l’abordabilité devient un défi, en particulier pour les petites entreprises.
2. Énergie et durabilité: La consommation d’énergie élevée nécessite des solutions plus respectueuses de l’environnement à mesure que l’adoption de l’IA progresse.
3. Sécurité et confidentialité: La protection des données dans les infrastructures partagées nécessite une évolution de la sécurité et de la conformité réglementaire.
4. Interopérabilité: Les outils fragmentés de la pile d’IA compliquent le déploiement et l’intégration sans faille. Nous pouvons maintenant réduire le temps de développement de 2 fois et réduire le nombre de personnes impliquées dans un projet d’IA de 3 fois.

Opportunités:

1. Croissance de l’IA de bord: Le traitement de l’IA plus proche des sources de données offre une réduction de la latence et une conservation de la bande passante.
2. MLOps automatisés: Les opérations rationalisées réduisent la complexité du déploiement, permettant aux entreprises de se concentrer sur les applications.
3. Materiels économes en énergie: Les innovations peuvent améliorer l’accessibilité et réduire l’impact environnemental.
4. Cloud hybride: Les infrastructures qui fonctionnent à la fois dans le cloud et dans les environnements sur site sont bien adaptées à la flexibilité des entreprises.
5. Gestion d’IA alimentée par l’IA: L’utilisation de l’IA pour optimiser de manière autonome l’infrastructure réduit les temps d’arrêt et améliore l’efficacité.

Pouvez-vous partager vos insights sur votre vision à long terme pour GMI Cloud ? Quel rôle voyez-vous jouer dans l’évolution de l’IA et de l’AGI ?

Je veux construire l’IA d’Internet. Je veux construire l’infrastructure qui alimente l’avenir à travers le monde.

Pour créer une plate-forme accessible, similaire à Squarespace ou Wix, mais pour l’IA. N’importe qui devrait être capable de construire son application d’IA.

Dans les années à venir, l’IA connaîtra une croissance substantielle, en particulier avec les cas d’utilisation de l’IA générative, à mesure que davantage d’industries intègrent ces technologies pour améliorer la créativité, automatiser les processus et optimiser la prise de décision. L’inférence jouera un rôle central dans cet avenir, permettant des applications d’IA en temps réel qui peuvent gérer des tâches complexes de manière efficace et à grande échelle. Les cas d’utilisation B2B devraient dominer, les entreprises se concentrant de plus en plus sur l’utilisation de l’IA pour améliorer la productivité, rationaliser les opérations et créer de la valeur. La vision à long terme de GMI Cloud s’aligne sur cette tendance, visant à fournir une infrastructure avancée et fiable qui soutient les entreprises dans la maximisation de la productivité et de l’impact de l’IA dans leurs organisations.

Alors que vous élargissez les opérations avec le nouveau centre de données dans le Colorado, quels sont vos objectifs stratégiques ou jalons que vous visez à atteindre au cours de l’année prochaine ?

Alors que nous élargissons les opérations avec le nouveau centre de données dans le Colorado, nous nous concentrons sur plusieurs objectifs stratégiques et jalons au cours de l’année prochaine. Les États-Unis représentent le plus grand marché pour l’IA et le calcul d’IA, ce qui rend impératif pour nous d’établir une forte présence dans cette région. La localisation stratégique du Colorado, combinée à son écosystème technologique robuste et à son environnement commercial favorable, nous positionne pour mieux servir une clientèle croissante et améliorer nos offres de services.

Quels conseils donneriez-vous aux entreprises ou aux startups qui cherchent à adopter une infrastructure d’IA avancée ?

Pour les startups axées sur l’innovation alimentée par l’IA, la priorité devrait être de construire et d’affiner leurs produits, et non de passer du temps précieux sur la gestion de l’infrastructure. Partenarez avec des fournisseurs de technologie de confiance qui offrent des solutions de GPU fiables et évolutives, en évitant les fournisseurs qui font des raccourcis avec des alternatives sous étiquette blanche. La fiabilité et le déploiement rapide sont essentiels ; dans les premières étapes, la vitesse est souvent le seul avantage concurrentiel qu’une startup a par rapport aux acteurs établis. Choisissez des options basées sur le cloud, flexibles, qui soutiennent la croissance, et concentrez-vous sur la sécurité et la conformité sans sacrifier l’agilité. En faisant cela, les startups peuvent s’intégrer en douceur, itérer rapidement et canaliser leurs ressources vers ce qui compte vraiment – livrer un produit exceptionnel sur le marché.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus devraient visiter GMI Cloud,