Nick Romano, Co-Fondateur & PDG de Deeplite – Série d’entretiens

Nick Romano est le Co-Fondateur & PDG de Deeplite une solution d’optimisation basée sur l’IA pour rendre les réseaux de neurones profonds plus rapides, plus petits et plus économes en énergie, du cloud à l’informatique de périphérie.

Nick est un entrepreneur en série et un PDG accompli qui livre des résultats réussis depuis plus de 20 ans. Récemment, il a co-fondé et mis à l’échelle une plate-forme SaaS d’entreprise avec des revenus récurrents de plusieurs millions de dollars et plus de 100 employés. Il a été honoré par l’Université McMaster Engineering en tant que l’un des 150 meilleurs anciens élèves.

Qu’est-ce qui vous a initialement attiré vers l’IA ?

J’ai été dans l’espace technologique pendant plus de 25 ans et j’ai vu de nombreux cycles et tendances, certaines étant des hype et d’autres étant réelles. L’IA est un domaine dynamique et en croissance, et ce que j’aime à son sujet, c’est la façon dont la technologie peut vraiment être utilisée de nombreuses manières différentes pour améliorer la façon dont les gens vivent et travaillent. Je voulais faire partie de ce mouvement. Cependant, il y a des défis pour amener l’IA dans des environnements du monde réel. Cela nécessite beaucoup de capacité de calcul et d’énergie pour que l’IA fonctionne correctement – c’est intensif en calcul. C’est bien dans un laboratoire, mais si c’est trop grand ou trop lent ou prend trop de puissance, il est difficile d’amener l’IA dans des scénarios du monde réel. C’est notre mission et l’attrait réel pour moi – permettre l’IA pour la vie quotidienne.

Pouvez-vous partager l’histoire de la genèse derrière Deeplite ?

L’idée de Deeplite a commencé dans l’incubateur TandemLaunch à Montréal. Davis Sawyer, qui est maintenant notre directeur produit et un expert dans le domaine de l’IA, et Ehsan Saboori, qui est maintenant notre CTO et est vraiment le cerveau derrière notre PI, ont commencé à développer la technologie là-bas. Je me suis joint à eux en 2019, apportant mes nombreuses années de leadership technologique et de mise à l’échelle de sociétés, et nous avons officiellement lancé Deeplite en tant que société à mi-2019. Nous avons maintenant plus de 20 employés avec des bureaux à Montréal et Toronto, et nous avons annoncé un financement de série Seed de 6 millions de dollars en avril 2021.

Pourquoi est-il important d’intégrer le traitement de l’IA directement dans le matériel par rapport au cloud dans certains cas d’utilisation tels que les véhicules autonomes et les drones ?

Il y a de nombreuses raisons pour lesquelles vous voulez exécuter votre inférence, le processus de prise de décision de l’IA, au point de capture des données par rapport au cloud. Probablement la plus grande raison dans les applications critiques comme les véhicules autonomes est ce qu’on appelle la latence, qui signifie essentiellement combien de temps l’IA prend pour prendre une décision. Si vous devez capturer les données, les envoyer au cloud pour l’inférence, puis renvoyer les résultats, cela prendra évidemment beaucoup plus de temps que de le faire localement en temps réel. Dans la conduite autonome, les millisecondes comptent énormément.

D’autres raisons incluent la confidentialité, en gardant les données sensibles locales par rapport à leur envoi au cloud, et bien sûr la connectivité, qui dans son absence rend l’inférence cloud muette. Les réseaux de neurones profonds complexes qui alimentent l’IA nécessitent beaucoup de puissance de calcul pour fonctionner, ils utilisent beaucoup de mémoire et consomment beaucoup de puissance, donc les solutions d’IA ont été obligées d’utiliser le cloud. Pour sortir du cloud et faire fonctionner l’IA localement à la périphérie, dans un véhicule ou un drone par exemple, vous devez trouver un moyen de réduire la taille et le profil de puissance globale du modèle, permettant ainsi de l’exécuter directement sur le matériel – l’appareil – avec beaucoup moins de ressources. Il est important de briser cette barrière pour amener l’IA à bien plus d’appareils qui servent les gens chaque jour. C’est là que Deeplite intervient.

Pouvez-vous nous dire ce qu’est spécifiquement Deeplite Neutrino ?

Notre plate-forme Neutrino transforme l’IA, en particulier les réseaux de neurones profonds ou DNN, en un nouveau facteur de forme qui est plus petit, plus rapide et moins consommateur de puissance que sa forme d’origine. Avec Deeplite Neutrino, les équipes d’IA peuvent se concentrer sur la formation de leurs modèles pour la précision, à savoir combien de fois la décision est correcte, et utiliser notre plate-forme pour optimiser le modèle d’IA afin qu’il puisse être déployé sur du matériel contraint à la périphérie. Deeplite Neutrino le fait sans compromettre la précision d’origine de l’IA. En essence, nous prenons de grands modèles d’IA et les rendons plus petits, plus rapides et plus économes en énergie. L’objectif final est de sortir l’IA du laboratoire et de l’amener dans le monde réel dans les choses que nous utilisons chaque jour.

Comment Deeplite Neutrino est-il capable de rendre l’IA plus efficace, plus rapide, plus petite et plus puissante sans compromettre la précision du modèle d’origine ?

Nous utilisons une approche de conception d’espace de recherche multi-objectif novatrice. Nous utilisons le modèle d’origine comme une sorte de « modèle enseignant » et explorons ensuite l’architecture du modèle à la recherche du meilleur « modèle étudiant » qui satisfait les contraintes de conception spécifiées par l’utilisateur Deeplite pour optimiser automatiquement les modèles DNN et les rendre significativement plus rapides, plus petits et plus économes en énergie sans sacrifier les performances.

Quels sont certains des principaux cas d’utilisation pour utiliser ce type d’IA ?

Bien que nous ne soyons pas limités à cela, notre focus actuel est sur la vision par ordinateur et la perception basée sur l’IA. Notre technologie d’IA est utilisée dans les véhicules autonomes, les drones, les caméras, les téléphones cellulaires, les capteurs et d’autres appareils IoT. Nous voyons également de nouvelles applications pour cela, notamment une brosse à dents intelligente et une machine à café intelligente. Nous travaillons même avec une société de jouets internationale de premier plan qui l’utilise pour le développement de jeux. Ce qui est incroyablement excitant et gratifiant dans ce que nous faisons, c’est la diversité des applications que nous voyons arriver sur le marché où nous pouvons les aider à prendre vie.

Quels sont vos points de vue sur l’apprentissage fédéré et son impact sur l’avenir de l’apprentissage automatique ?

La formation de modèles nécessite beaucoup de données et beaucoup de puissance de calcul. Plus les cas d’utilisation sont diversifiés, plus de données sont nécessaires, et plus de temps de calcul est nécessaire pour former le modèle à un niveau de précision satisfaisant. Avec l’apprentissage fédéré, la formation est orchestrée à la périphérie sur chaque appareil en fonction des conditions de données locales. Cela peut rendre la formation plus efficace (pourquoi former pour un kangourou qui traverse la route en Alaska) et constitue également une grande victoire pour la confidentialité, car les données de formation – par exemple, le visage de quelqu’un – ne sont pas envoyées à un serveur central.

Étant donné que notre processus d’optimisation implique ce que nous appelons une « boucle de formation » pour préserver la précision du modèle optimisé, notre objectif ultime serait d’avoir ce que nous faisons faire partie du processus de formation initial plutôt que comme une deuxième étape. Pour le moment, c’est aspirational, mais c’est partie de notre objectif à long terme.

En tant que startup, comment attirez-vous les talents et le pouvoir cérébral nécessaires ?

C’est un grand défi d’attirer les bons talents en IA aujourd’hui – il y a trop peu de gens là-bas et la concurrence pour recruter est élevée. Notre équipe est incroyable. Ils sont un aimant pour les talents. Nous faisons en sorte que les candidats potentiels parlent et soient interviewés par notre équipe. Une fois qu’ils voient le niveau des personnes chez Deeplite, ils veulent y être. En tant que startup, nous offrons une grande culture et l’opportunité de travailler sur quelque chose de nouveau et émergent qui peut être un changement de jeu pour de nombreuses industries et produits différents. Je pense que cette opportunité, combinée à l’équipe, est la clé pour attirer les meilleurs talents. Nous sommes également stratégiquement situés dans deux grands hubs d’IA nord-américains, Montréal et Toronto, ce qui aide. En tant que société canadienne, nous utilisons également le programme de flux de talents mondiaux du gouvernement pour recruter partout dans le monde, parrainer de nouveaux employés et les faire entrer rapidement au Canada.

Avez-vous des conseils pour d’autres entrepreneurs dans l’espace de l’IA ?

Cela va au-delà de l’IA, mais en tant qu’entrepreneur répétitif, j’ai appris à quel point il est important d’avoir le soutien de la famille, car la décision d’être entrepreneur n’est pas une décision individuelle – elle affecte tout le monde – époux et enfants compris. Tout le monde fait partie du voyage avec vous, et tout le monde fait des sacrifices. Vous devez reconnaître et apprécier cela, et c’est ainsi que les familles peuvent rester ensemble tout au long du voyage.

Y a-t-il autre chose que vous aimeriez partager sur Deeplite ?

L’un des aspects uniques de Deeplite est nos co-fondateurs. Davis a la vingtaine et est extrêmement intelligent et énergique. Il est définitivement un expert dans le domaine dans ce que nous faisons. Ehsan est un immigrant iranien titulaire d’un doctorat, et comme mentionné plus tôt, est vraiment le cerveau derrière notre PI. Et je suis un vétéran de plus de 50 ans qui a construit des sociétés auparavant. Les trois d’entre nous sont une combinaison intéressante qui apportent des forces et des expériences différentes à la table. Je suis très reconnaissant d’avoir de tels grands partenaires et d’être entouré d’une équipe si incroyable.

Je vous remercie pour cette grande interview, j’ai hâte de suivre les progrès de Deeplite et c’est une société qui sera sur mon radar. Les lecteurs qui souhaitent en savoir plus devraient visiter Deeplite.