Nick Romano, Co-Fondateur et PDG de Deeplite – Série d’entretiens

Nick Romano est le Co-Fondateur et PDG de Deeplite, une solution d’optimisation basée sur l’IA pour rendre les réseaux de neurones profonds plus rapides, plus petits et plus économes en énergie, du cloud à l’informatique de bord.

Nick est un entrepreneur en série et un PDG accompli, ayant obtenu des résultats réussis pendant plus de 20 ans. Récemment, il a co-fondé et développé une plate-forme SaaS d’entreprise avec des revenus récurrents de plusieurs millions de dollars et plus de 100 employés. Il a été honoré par l’Université McMaster en tant que l’un des 150 meilleurs anciens élèves de la faculté d’ingénierie.

Qu’est-ce qui vous a initialement attiré vers l’IA ?

J’ai passé plus de 25 ans dans l’espace technologique et j’ai vu de nombreux cycles et tendances, certaines étant des réalités et d’autres étant des hype. L’IA est un domaine dynamique et en croissance, et ce que j’aime à son sujet, c’est la façon dont la technologie peut être utilisée de manière réelle dans de nombreux domaines pour améliorer la façon dont les gens vivent et travaillent. Je voulais faire partie de ce mouvement. Cependant, il y a des défis pour amener l’IA dans des environnements du monde réel. Cela nécessite beaucoup de capacité de calcul et d’énergie pour que l’IA fonctionne correctement – c’est très exigeant en termes de calcul. C’est acceptable dans un laboratoire, mais si c’est trop grand, trop lent ou consomme trop de puissance, il est difficile d’amener l’IA dans des scénarios du monde réel. C’est notre mission et l’attrait réel pour moi – permettre l’IA pour la vie quotidienne.

Pouvez-vous partager l’histoire de la création de Deeplite ?

L’idée de Deeplite a démarré dans l’incubateur TandemLaunch à Montréal. Davis Sawyer, qui est maintenant notre directeur produit et un expert dans le domaine de l’IA, et Ehsan Saboori, qui est maintenant notre CTO et qui est vraiment le cerveau derrière notre propriété intellectuelle, ont commencé à développer la technologie là-bas. J’ai rejoint l’équipe en 2019, apportant mes nombreuses années d’expérience dans le leadership technologique et le développement d’entreprises, et nous avons officiellement lancé Deeplite en tant qu’entreprise à mi-2019. Nous avons maintenant plus de 20 employés avec des bureaux à Montréal et Toronto, et nous avons annoncé un financement de série Seed de 6 millions de dollars en avril 2021.

Pourquoi est-il important d’intégrer le traitement de l’IA directement dans le matériel par rapport au cloud dans certains cas d’utilisation tels que les véhicules autonomes et les drones ?

Il y a de nombreuses raisons pour lesquelles vous souhaitez exécuter votre inférence, le processus de prise de décision de l’IA, au point de capture des données par rapport au cloud. La principale raison, probablement, dans les applications critiques comme les véhicules autonomes, est ce qu’on appelle la latence, qui signifie essentiellement combien de temps l’IA prend pour prendre une décision. Si vous devez capturer les données, les envoyer au cloud pour l’inférence, puis renvoyer les résultats, cela prendra évidemment beaucoup plus de temps que de le faire localement en temps réel. Dans la conduite autonome, les millisecondes comptent énormément.

D’autres raisons incluent la confidentialité, en gardant les données sensibles locales par rapport à leur envoi au cloud, et bien sûr la connectivité, qui, en son absence, rend l’inférence cloud inutile. Les réseaux de neurones profonds complexes qui alimentent l’IA nécessitent beaucoup de puissance de calcul pour fonctionner, ils utilisent beaucoup de mémoire et consomment beaucoup de puissance, donc les solutions d’IA ont été forcées d’utiliser le cloud. Pour sortir du cloud et faire fonctionner l’IA localement sur le matériel – l’appareil – avec beaucoup moins de ressources, vous devez trouver un moyen de réduire la taille globale et le profil d’alimentation du modèle, permettant ainsi de l’exécuter directement sur le matériel. Il est important de briser cette barrière pour amener l’IA à bien plus d’appareils qui servent les gens chaque jour. C’est là que Deeplite intervient.

Pouvez-vous nous dire ce qu’est spécifiquement Deeplite Neutrino ?

<p Notre plate-forme Neutrino transforme l'IA, en particulier les réseaux de neurones profonds ou DNN, en un nouveau facteur de forme qui est plus petit, plus rapide et moins consommateur d'énergie que sa forme d'origine. Avec Deeplite Neutrino, les équipes d'IA peuvent se concentrer sur la formation de leurs modèles pour l'exactitude, à savoir combien de fois la décision est correcte, et utiliser notre plate-forme pour optimiser le modèle d'IA afin qu'il puisse être déployé sur du matériel contraint à la périphérie. Deeplite Neutrino le fait sans compromettre l'exactitude d'origine de l'IA. En substance, nous prenons de grands modèles d'IA et les rendons plus petits, plus rapides et plus économes en énergie. L'objectif final est de sortir l'IA du laboratoire et de l'amener dans le monde réel dans les choses que nous utilisons chaque jour.

Comment Deeplite Neutrino est-il capable de rendre l’IA plus efficace, plus rapide, plus petite et plus puissante sans compromettre l’exactitude du modèle d’origine ?

Nous utilisons une approche novatrice d’exploration de l’espace de conception multi-objectif. Nous utilisons le modèle d’origine comme un modèle « enseignant » et explorons ensuite l’architecture du modèle à la recherche du meilleur modèle « élève » qui satisfait les contraintes de conception spécifiées par l’utilisateur Deeplite pour optimiser automatiquement les modèles DNN et les rendre significativement plus rapides, plus petits et plus économes en énergie sans sacrifier les performances.

Quels sont les principaux cas d’utilisation de ce type d’IA ?

Alors que nous ne sommes pas limités à cela, notre focus actuel est sur la vision par ordinateur et la perception basée sur l’IA. Notre technologie d’IA est utilisée dans les véhicules autonomes, les drones, les caméras, les téléphones cellulaires, les capteurs et d’autres appareils IoT. Nous voyons également de nouvelles applications pour cela, notamment une brosse à dents intelligente et une machine à café intelligente. Nous travaillons même avec une société de jouets internationale de premier plan qui l’utilise pour le développement de jeux. Ce qui est incroyablement excitant, et gratifiant, c’est la diversité des applications que nous voyons arriver sur le marché où nous pouvons les aider à prendre vie.

Quels sont vos points de vue sur l’apprentissage fédéré et son impact sur l’avenir de l’apprentissage automatique ?

La formation de modèles nécessite beaucoup de données et de puissance de calcul. Plus les cas d’utilisation sont diversifiés, plus de données sont nécessaires, et plus de temps de calcul est nécessaire pour former le modèle à un niveau d’exactitude satisfaisant. Avec l’apprentissage fédéré, la formation est orchestrée à la périphérie sur chaque appareil en fonction des conditions de données locales. Cela peut rendre la formation plus efficace (pourquoi former pour un kangourou traversant la route en Alaska) et constitue également une grande victoire pour la confidentialité, car les données de formation – par exemple, le visage de quelqu’un – ne sont pas envoyées à un serveur central.

Étant donné que notre processus d’optimisation implique ce que nous appelons une « boucle de formation » pour préserver l’exactitude du modèle optimisé, notre objectif ultime serait d’avoir ce que nous faisons faire partie du processus de formation initial plutôt que comme un deuxième passage. Pour le moment, c’est aspirational, mais c’est partie de notre objectif à long terme.

En tant que startup, comment attirez-vous les talents et les cerveaux nécessaires ?

C’est un grand défi d’attirer les bons talents en IA aujourd’hui – il y a trop peu de personnes et la concurrence pour recruter est élevée. Notre équipe est incroyable. Ils sont un aimant pour les talents. Nous faisons parler et interviewer nos futurs employés avec notre équipe. Une fois qu’ils voient le niveau des personnes chez Deeplite, ils veulent être ici. En tant que startup, nous offrons une grande culture et l’opportunité de travailler sur quelque chose de nouveau et émergent qui peut être un jeu-changer pour de nombreuses industries et produits. Je pense que cette opportunité, ainsi que l’équipe, est la clé pour attirer les meilleurs talents. Nous sommes également stratégiquement situés dans deux grands hubs d’IA en Amérique du Nord, Montréal et Toronto, ce qui aide. En tant qu’entreprise canadienne, nous utilisons également le programme de flux de talents mondiaux du gouvernement pour recruter partout dans le monde, parrainer de nouveaux employés et les faire entrer rapidement au Canada.

Avez-vous des conseils pour d’autres entrepreneurs dans l’espace de l’IA ?

Cela va au-delà de l’IA, mais en tant qu’entrepreneur répétitif, j’ai appris à quel point il est important d’avoir le soutien de la famille, car la décision d’être un entrepreneur n’est pas une décision individuelle – elle affecte tout le monde – les conjoints et les enfants inclus. Tout le monde fait partie du voyage avec vous, et tout le monde fait des sacrifices. Vous devez reconnaître et apprécier cela, et c’est ainsi que les familles peuvent rester ensemble tout au long du voyage.

Y a-t-il autre chose que vous aimeriez partager sur Deeplite ?

L’un des aspects uniques de Deeplite est nos co-fondateurs. Davis a la vingtaine, et est extrêmement intelligent et énergique. Il est définitivement un expert dans le domaine de ce que nous faisons. Ehsan est un immigrant iranien titulaire d’un doctorat, et comme mentionné plus tôt, est le véritable cerveau derrière notre propriété intellectuelle. Et je suis un vétéran de plus de 50 ans qui a construit des entreprises auparavant. Les trois d’entre nous sont une combinaison intéressante qui apportent des forces et des expériences différentes à la table. Je suis très reconnaissant d’avoir de tels grands partenaires et d’être entouré d’une équipe si incroyable.

Je vous remercie pour cette grande interview, j’ai hâte de suivre les progrès de Deeplite et c’est une entreprise qui sera sur mon radar. Les lecteurs qui souhaitent en savoir plus devraient visiter Deeplite.