Derek Collison, Fondateur et PDG de Synadia – Série d’entretiens

Derek Collison est le fondateur et PDG de Synadia. Synadia a inventé la technologie de connexion ouverte, NATS.io. Avec NATS, vous pouvez connecter facilement toutes vos applications et données à une échelle mondiale, quelle que soit la langue dans laquelle elles sont écrites ou leur emplacement.

Derek Collison est un vétéran de l’industrie de 30 ans, entrepreneur et pionnier dans les systèmes distribués sécurisés et à grande échelle, ainsi que dans le cloud computing. Il a contribué à changer la façon dont les systèmes financiers, de transport et de logistique fonctionnent fondamentalement, tout en passant plus d’une décennie chez TIBCO, en concevant des systèmes qui alimentent encore une grande partie de ces industries aujourd’hui. Chez Google (GOOGL ), Derek a co-fondé le groupe AJAX APIs et a créé le plus grand CDN pour les bibliothèques JavaScript populaires, en identifiant le besoin d’un accès facile et sécurisé aux services de Google sans nécessiter de serveurs supplémentaires.

Comment l’IA et le calcul de bord peuvent-ils travailler ensemble pour atteindre un traitement de données complexes à faible latence ?

Le calcul de bord joue deux rôles principaux dans l’économie de l’IA. Le rôle principal aujourd’hui est la collecte et la distribution de données/télémétrie basées sur le bord pour une utilisation dans la formation centralisée de modèles.

La possibilité émergente et bien plus grande est pour les cas d’utilisation d’inférence IA. L’IA et le calcul de bord sont une combinaison critique et puissante qui permet un traitement en temps réel, une latence réduite, une précision améliorée et une sécurité et une confidentialité renforcées.

Nous voyons maintenant des signes clairs que l’inférence au bord n’est pas simplement obtenir de grands modèles quantifiés pour s’exécuter au bord. Cela évolue vers un pipeline multi-étapes, où les opérations d’augmentation de prompt et de génération augmentée de récupération (RAG) transforment le prompt initial d’un utilisateur ou d’un système en utilisant un accès en temps réel et indépendant de l’emplacement aux données au bord. Le deuxième est une traversée de graphique de plusieurs modèles par rapport à un seul modèle, qu’ils soient locaux ou distants.

Quelles sont les applications réelles où la combinaison de l’IA et du calcul de bord a eu un impact significatif ?

L’IA a un impact sur chaque industrie à une vitesse croissante. Nous voyons la communauté et l’écosystème open source NATS construire des applications et des services dans la fabrication industrielle et l’IoT (maintenance prédictive, optimisation des processus et jumeaux numériques), les véhicules autonomes (routes optimisées et sécurité), l’énergie verte (optimisation de l’énergie), la vente au détail (expériences de shopping personnalisées et gestion des stocks en temps réel) et la finance (conformité réglementaire et trading algorithmique) et le gouvernement (communautés DoD/IC, par exemple, CUAS de drone).

L’un de nos clients est un fabricant de dispositifs médicaux utilisés comme plateforme de formation dans des installations du monde entier. Chaque événement local doit être capturé et stocké dans le cadre d’un processus de certification. Le fait d’avoir à renvoyer tout le trafic vers le cloud central était à la fois coûteux et difficile pour les sessions les plus éloignées. Nos capacités de bord natives leur ont permis de simplifier leurs capacités de livraison de plateforme.

En tant que créateurs de NATS.io, comment voyez-vous la technologie open source façonnant l’avenir du calcul de bord ?

Le calcul de bord s’est avéré être un paysage différent de celui du cloud computing. Les approches et les solutions utilisées dans les architectures dites « cloud natives » actuelles ne se traduisent pas au bord.

Le « quoi » de la solution reste familier, mais le « comment » est très différent. Synadia/NATS.io change le « comment », et non le « quoi », pour résoudre les défis liés aux microservices et à l’accès et au flux de données au bord, sur n’importe quel cloud ou géographie.

Quels sont les principaux avantages de l’utilisation de NATS.io pour la connectivité globale des applications et des données ?

Les principaux avantages de NATS.io proviennent de son approche unique de la connectivité et de la couche de données intégrée. La connectivité intelligente de NATS permet de construire des applications et des services avec une transparence de localisation ou ce que nous aimons appeler des « applications nomades ». NATS supprime les exigences d’infrastructures cloud supplémentaires telles que les équilibreurs de charge, les maillages de service ou les passerelles API pour permettre aux utilisateurs d’écrire une application une fois et de la déployer n’importe où.

En nous appuyant sur cela, nous avons une couche de données avec des flux et des magasins de valeurs clés et d’objets. C’est la combinaison de notre couche de données avec la couche de connectivité qui offre des modèles d’accès et de flux puissants qui conviennent très bien au bord pour les applications sensibles à la latence et en temps réel.

Quelles sont les prochaines grandes innovations dans le domaine du bord et de la connectivité que vous prévoyez dans les prochaines années ?

La gestion de flotte en temps réel, la collecte de données de télémétrie, l’analyse au bord et, bien sûr, l’inférence IA au bord en temps réel avec des enveloppes temporelles spécifiques seront toutes des innovations prioritaires. Des exemples de cela incluent :

• Capacités IA accrues au bord : à mesure que la puissance de traitement s’améliore, des capacités IA et d’apprentissage automatique plus avancées passeront des clouds aux appareils de bord.
• Convergence 5G et calcul de bord : le déploiement continu des réseaux 5G transformera les capacités de calcul de bord en offrant une latence ultra-faible et une bande passante élevée.
• Continuum bord-cloud : nous devrions voir une intégration plus transparente entre le calcul de bord et le cloud, créant un continuum où les données et les charges de travail sont déployés dynamiquement en fonction des exigences. Nous aimons le terme « applications vraiment nomades ».
• Centres de données hyperlocaux : il y aura une prolifération de petits centres de données hyperlocaux pour soutenir les besoins de calcul de bord. Des entreprises comme Akamai réutilisent déjà les infrastructures pour créer un réseau mondial de centres de données de bord.
• Solutions de bord spécifiques à l’industrie : nous verrons davantage de solutions de calcul de bord personnalisées pour des industries spécifiques comme les soins de santé, la fabrication, la vente au détail et l’agriculture, qui répondent à des défis et à des opportunités uniques dans chaque secteur.

Comment Synadia se positionne-t-elle pour diriger ces tendances futures ?

Notre approche consiste à aborder d’abord la connectivité réseau, puis les données, et nous avons récemment introduit la possibilité de gérer les charges de travail de manière native avec le moteur d’exécution NATS (NEX). Cette approche différente des autres nous a valu d’être très mal compris au début. Cependant, cette approche nous a permis d’apporter des solutions innovantes et très puissantes aux défis du marché autour de la conception de systèmes et du bord.

Lorsque les applications passent à des microservices et se déplacent vers le bord, nous devons nous assurer que les différents composants peuvent communiquer. Nous renversons l’approche habituelle qui consiste à ajouter des passerelles API et des maillages de service, et nous utilisons plutôt la plateforme Synadia et NATS.io pour simplifier la pile technologique et ses communications.

Quels sont les principaux défis dans la conception et la construction de systèmes distribués modernes, et comment Synadia répond à ces défis ?

La plupart des gens conçoivent leurs systèmes en se concentrant d’abord sur les charges de travail, puis sur les données, puis enfin sur le réseau nécessaire pour les relier. La sécurité est généralement ajoutée en dernier.

La pile technologique de Synadia, ancrée par NATS.io, permet une conception cohérente et rapide de systèmes distribués modernes. Ceux-ci peuvent s’adapter à des déploiements sur un seul cloud, mais plus important encore, ils restent prêts pour l’avenir et sécurisés lorsque plusieurs fournisseurs de cloud, régions et emplacements de bord entrent en jeu.

Pouvez-vous fournir des exemples de la façon dont les solutions de Synadia ont aidé les entreprises à surmonter des problèmes avec les modèles de connectivité traditionnels ?

La plateforme Synadia permet aux concepteurs de systèmes d’obtenir rapidement du succès dans les déploiements basés sur le bord et de future-proof ces systèmes, quel que soit l’objectif de déploiement.

Elle leur permet également de disposer d’un modèle de sécurité cohérent et d’éliminer un certain nombre de pièces mobiles non nécessaires avec la plateforme Synadia, comme les équilibreurs de charge, les passerelles API, les GSLB, les pare-feu, les VPN, les maillages de service, etc.

Nous travaillons avec un constructeur automobile mondial qui voulait moderniser son infrastructure numérique. L’objectif était d’éviter des projets d’applications cloisonnées et de déployer un « tissu de données global » auquel tous ses futurs services numériques pourraient se connecter. Ce sont les types de projets qui nous enthousiasment.

Comment les offres commerciales de Synadia, telles que Synadia Cloud et Synadia Platform, améliorent-elles les capacités de NATS.io ?

Alors que nous allons continuer à open-sourcer des fonctionnalités ciblées pour un développeur NATS, Synadia fournit une valeur ajoutée principalement autour de la surveillance et de l’administration d’entreprise de NATS.

Synadia Cloud et Synadia Platform sont des versions « certifiées » du logiciel qui sont prises en charge pour les déploiements critiques pour la mission et l’entreprise. Ce sont des offres emballées qui fournissent un spectre d’offres allant de la SaaS à faible coût, multirégionale et multicloude de Synadia Cloud, aux déploiements sur site et aux emplacements de bord pour Synadia Platform. Ces deux offres fonctionnent souvent ensemble.

Combien l’engagement communautaire est-il important pour Synadia, et quels initiatives prenez-vous pour favoriser une forte communauté de développeurs ?

Notre feuille de route technologique est entièrement pilotée par notre écosystème OSS et les développeurs qui utilisent le logiciel. Nous nous engageons constamment avec l’écosystème, en interagissant et en obtenant des commentaires.

Nous avons fait un investissement significatif dans les ressources pour aider à l’expérience du développeur. Cela inclut la documentation, les didacticiels vidéo et les ressources de code d’exemple.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Synadia ou NATS.io.