David Driggers, CTO de Cirrascale – Série d’entretiens

David Driggers est le directeur technique de Cirrascale Cloud Services, un fournisseur leader de solutions d’infrastructure d’apprentissage profond. Guidé par des valeurs d’intégrité, d’agilité et de focalisation sur le client, Cirrascale propose des solutions innovantes, basées sur le cloud, de type Infrastructure-as-a-Service (IaaS). En partenariat avec des leaders de l’écosystème de l’IA comme Red Hat et WekaIO, Cirrascale assure un accès sans rupture aux outils avancés, permettant aux clients de faire progresser l’apprentissage profond tout en maintenant des coûts prévisibles.

Cirrascale est le seul fournisseur de GPUaaS en partenariat avec des entreprises de semi-conducteurs majeures comme NVIDIA (NVDA ), AMD, Cerebras (CBRS ) et Qualcomm. Comment cette position unique profite-t-elle à vos clients en termes de performances et de scalabilité ?

Alors que l’industrie évolue des modèles de formation aux déploiements de ces modèles appelés Inférence, il n’y a pas de taille unique pour tous. En fonction de la taille et des exigences de latence du modèle, différents accélérateurs offrent différentes valeurs qui pourraient être importantes. Le temps de réponse, les avantages de coût par jeton, ou les performances par watt peuvent tous affecter le coût et l’expérience utilisateur. Puisque l’Inférence est destinée à la production, ces fonctionnalités/capacités sont importantes.

Qu’est-ce qui distingue le Cloud d’innovation AI de Cirrascale des autres fournisseurs de GPUaaS pour supporter les flux de travail d’IA et d’apprentissage profond ?

Le Cloud d’innovation AI de Cirrascale permet aux utilisateurs d’essayer de nouvelles technologies de manière sécurisée, assistée et entièrement prise en charge, qui ne sont pas disponibles dans d’autres nuages. Cela peut aider non seulement les décisions en matière de technologie cloud, mais également les achats potentiels sur site.

Comment la plate-forme de Cirrascale assure-t-elle une intégration transparente pour les startups et les entreprises ayant des besoins d’accélération d’IA divers ?

Cirrascale adopte une approche de solution pour son cloud. Cela signifie que pour les startups et les entreprises, nous proposons une solution clé en main qui comprend à la fois Dev-Ops et Infra-Ops. Alors que nous qualifions nos offres de « bare-metal » pour les distinguer des offres partagées ou virtualisées, Cirrascale configure entièrement tous les aspects de l’offre, y compris la configuration complète des serveurs, du réseau, du stockage, de la sécurité et des exigences d’accès utilisateur avant de remettre le service à nos clients. Nos clients peuvent commencer à utiliser le service immédiatement sans avoir à configurer tout eux-mêmes.

Les entreprises rencontrent des barrières lors de l’adoption de l’IA à l’échelle de l’entreprise, comme la qualité des données, les contraintes d’infrastructure et les coûts élevés. Comment Cirrascale répond-elle à ces défis pour les entreprises qui développent des initiatives d’IA ?

Bien que Cirrascale ne propose pas de services de qualité de données, nous nous associons à des entreprises qui peuvent aider avec les problèmes de données. En ce qui concerne l’infrastructure et les coûts, Cirrascale peut concevoir une solution spécifique aux besoins d’un client, ce qui se traduit par de meilleures performances globales et des coûts liés aux besoins spécifiques du client.

Avec les avancées de Google (GOOGL ) dans l’informatique quantique (Willow) et les modèles d’IA (Gemini 2.0), comment voyez-vous l’évolution du paysage de l’IA d’entreprise dans un avenir proche ?

L’informatique quantique est encore loin d’être prête pour la plupart des gens en raison du manque de programmeurs et de programmes prêts à l’emploi qui peuvent tirer parti de ses fonctionnalités. Gemini 2.0 et d’autres offres à grande échelle comme GPT4 et Claude devraient susciter un certain intérêt de la part des clients d’entreprise, mais une grande partie du marché de l’entreprise n’est pas prête à faire confiance à des tiers avec leurs données, et encore moins à ceux qui pourraient utiliser ces données pour former leurs modèles.

La recherche de l’équilibre entre puissance, prix et performances est cruciale pour développer des solutions d’IA. Quelles sont vos principales recommandations pour les entreprises qui naviguent dans cet équilibre ?

Testez, testez, testez. Il est essentiel pour une entreprise de tester son modèle sur différentes plateformes. La production est différente du développement – le coût compte en production. La formation peut être une opération unique, mais l’inférence est éternelle. Si les exigences de performances peuvent être satisfaites à un coût inférieur, les économies réalisées vont directement au bénéfice et pourraient même rendre la solution viable. Souvent, le déploiement d’un grand modèle est trop coûteux pour être pratique. Les utilisateurs finaux devraient également rechercher des entreprises qui peuvent les aider dans ces tests, car un ingénieur en apprentissage automatique peut aider au déploiement par rapport au scientifique des données qui a créé le modèle.

Comment Cirrascale adapte-t-elle ses solutions pour répondre à la demande croissante d’applications d’IA générative, comme les modèles de langage et les modèles de génération d’images ?

Cirrascale propose la gamme la plus large d’accélérateurs d’IA, et avec la prolifération des modèles de langage et des modèles d’IA générative allant des plus petits aux plus grands, et des scénarios batch aux scénarios en temps réel, il s’agit véritablement d’un cheval pour un parcours.

Pouvez-vous donner des exemples de la façon dont Cirrascale aide les entreprises à surmonter les goulets d’étranglement de latence et de transfert de données dans les flux de travail d’IA ?

Cirrascale dispose de nombreux centres de données dans plusieurs régions et ne considère pas la connectivité réseau comme un centre de profit. Cela permet à nos utilisateurs de « dimensionner correctement » les connexions nécessaires pour déplacer les données, ainsi que d’utiliser plus d’une localisation si la latence est une fonctionnalité critique. De plus, en profilant les charges de travail réelles, Cirrascale peut aider à équilibrer la latence, les performances et le coût pour offrir la meilleure valeur après avoir satisfait les exigences de performances.

Quelles sont les tendances émergentes en matière de matériel ou d’infrastructure d’IA qui vous enthousiasment le plus, et comment Cirrascale se prépare-t-elle à ces tendances ?

Nous sommes les plus enthousiastes à l’idée de nouveaux processeurs conçus spécifiquement pour l’inférence par rapport aux processeurs GPU génériques qui conviennent bien à la formation, mais ne sont pas optimisés pour les cas d’utilisation d’inférence qui ont des exigences de calcul inhérentes différentes de la formation.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Cirrascale Cloud Services.