Orr Danon, PDG et co-fondateur de Hailo – Série d’entretiens

Orr Danon est le PDG et co-fondateur de Hailo, une entreprise dont la mission est de permettre aux technologies intelligentes de pointe d’atteindre leur plein potentiel. La solution proposée par Hailo comble le fossé entre les technologies d’intelligence artificielle existantes et futures et la capacité de calcul nécessaire pour alimenter ces applications. L’entreprise se concentre sur la création de processeurs d’intelligence artificielle efficaces et compacts enough pour calculer et interpréter de vastes quantités de données en temps réel.

Pouvez-vous partager l’histoire de la création de Hailo ?

J’ai co-fondé Hailo en 2017 avec des collègues que j’avais rencontrés précédemment dans l’unité technologique d’élite des forces de défense israéliennes. Alors que nous travaillions avec mes co-fondateurs Rami Feig et Avi Baum sur des solutions IoT (Internet des objets), un concept moins connu – « l’apprentissage profond » – est apparu à plusieurs reprises dans nos recherches. Finalement, nous avons réuni des experts dans le domaine pour développer une nouvelle solution d’apprentissage profond visant à résoudre les limites de l’architecture informatique vieillissante afin de permettre aux appareils intelligents de fonctionner de manière plus efficace et efficiente au niveau de la périphérie. Après le décès de Rami, l’équipe de Hailo a poursuivi sa vision – créant le processeur d’intelligence artificielle révolutionnaire de Hailo.

Pouvez-vous expliquer brièvement pourquoi l’informatique de pointe est souvent une solution supérieure à l’informatique cloud ?

Lorsque nous avons lancé Hailo, les technologies d’intelligence artificielle disruptives étaient en grande partie limitées au cloud, ou à de grands centres de données, car elles sont coûteuses, nécessitent une grande puissance de calcul et un matériel important pour fonctionner, et consomment une quantité importante d’énergie. Nous croyons que l’intelligence artificielle aide à créer un monde meilleur, plus sûr, plus productif et plus excitant, mais pour que cela se produise, l’intelligence artificielle doit être disponible à la périphérie également. Pour la mise en œuvre d’applications en temps réel et à faible latence sur des appareils tels que des caméras connectées, des véhicules et des appareils IoT, le traitement à la source est essentiel pour un fonctionnement efficace. Avec l’informatique de pointe, nous pouvons pleinement exploiter un certain nombre de cas d’utilisation clés qui alimentent l’avenir des villes intelligentes, des transports intelligents, de la conduite autonome, des systèmes de gestion de vidéos (VMS), de l’industrie 4.0, et plus encore.

Quels sont certains des défis liés au traitement des données visuelles à la périphérie ?

L’objectif est d’obtenir autant de performances et de fonctionnalités que possible dans les appareils de pointe afin qu’ils puissent traiter une énorme quantité de données visuelles rapidement et avec peu de latence ; cependant, l’une des principales contraintes est la consommation d’énergie – à la fois en termes de puissance qui peut être fournie à l’appareil et de la chaleur générée par le processeur.

Avec les caméras intelligentes, par exemple, les fabricants ont besoin d’un processeur d’intelligence artificielle qui puisse tenir dans une enveloppe de 2-3W parce que la caméra ne peut pas utiliser un refroidissement par ventilateur et parce qu’elle aura généralement une alimentation électrique limitée. Ce sont des points de douleur aigus car, à une puissance si faible, les performances sont extrêmement limitées lors de l’utilisation de la plupart des processeurs sur le marché.

Comment Hailo a-t-il réimaginé l’architecture du processeur d’intelligence artificielle ?

Nous l’avons fait en concevant spécifiquement un processeur d’intelligence artificielle destiné à fonctionner sur des appareils de pointe, en tenant compte des limitations de taille et de puissance. En faisant cela, nous permettons une puissance de calcul sans précédent sur les appareils de pointe, leur permettant de exécuter l’intelligence artificielle de manière plus efficace et efficiente et de réaliser des applications d’apprentissage profond sophistiquées telles que la détection d’objets, la reconnaissance d’objets, la segmentation, et d’autres, avec des niveaux de performances précédemment possibles seulement dans le cloud. Cette architecture unique permet un traitement multi-flux et multi-application, améliorant les performances et la rentabilité des appareils de pointe.

Un exemple de l’utilisation de cette architecture est les systèmes de gestion de vidéos (VMS). Ces systèmes sont utilisés dans des zones avec de nombreuses caméras, telles que les bâtiments de bureaux, les stades, les applications de villes intelligentes et les autoroutes pour améliorer la sécurité et la sûreté, y compris la surveillance des urgences et des accidents, l’activité suspecte, la gestion du trafic, le contrôle d’accès, la collecte de péages et plus encore. Pendant de nombreuses années, les entreprises ont reposé entièrement sur des processus manuels lorsqu’il s’agissait de collecter, d’analyser et de stocker des données vidéo. Maintenant, avec l’architecture de réseau neuronal unique de Hailo, les VMS peuvent effectuer plusieurs tâches en parallèle, en temps réel, permettant le traitement de plus de canaux et de plus d’applications simultanément. Les applications incluent la reconnaissance avancée de plaques d’immatriculation (LPR), la surveillance du trafic, la détection de comportement, et plus encore.

Pouvez-vous discuter du cœur de traitement de réseau neuronal et de votre approche de calcul des réseaux neuronaux en parallèle plutôt que de manière séquentielle ?

Notre processeur d’intelligence artificielle combine plusieurs innovations qui répondent aux propriétés fondamentales des réseaux neuronaux. Nous avons appliqué un schéma de contrôle innovant basé sur une combinaison de matériel et de logiciel pour atteindre très peu de joules par opération avec un degré élevé de flexibilité.

<p Notre architecture orientée flux de données s'adapte à la structure du réseau neuronal et permet une utilisation élevée des ressources. Le compilateur de flux de données Hailo est composé d'un logiciel complet, conçu conjointement avec notre matériel, pour permettre un déploiement efficace de réseaux neuronaux. Le compilateur de flux de données reçoit le modèle de l'utilisateur en entrée. Dans le cadre du flux de construction, le compilateur de flux de données divise chaque couche du réseau en éléments de calcul requis, générant un graphique de ressources qui est une représentation du réseau cible. Le compilateur de flux de données correspond ensuite au graphique de ressources du réseau cible aux ressources physiques disponibles sur le processeur, générant un tuyau de données personnalisé pour le réseau cible. Lorsqu'il est effectué de cette manière, l'exécution d'un modèle sur un appareil est très efficace, en utilisant des ressources de calcul minimales à tout moment.

Quelles sont certaines des plates-formes Hailo actuelles disponibles pour les entreprises ?

Le processeur Hailo-8 ™ et les modules d’intelligence artificielle peuvent être connectés à une variété d’appareils de pointe, aidant à alimenter de multiples secteurs avec des capacités d’intelligence artificielle supérieures – y compris l’automobile, les villes intelligentes, le commerce de détail intelligent et l’industrie 4.0.

Hailo a collaboré avec des acteurs de VMS et ISV de premier plan tels que Innovatrics, Network Optix, GeoVision et Art of Logic, pour permettre une analyse de vidéos de haute performance à grande échelle.

Combien de temps ces solutions peuvent-elles économiser aux clients qui intègrent des solutions d’intelligence artificielle ?

La recherche de solutions intégrées qui fonctionnent sur des plates-formes VMS établies est un gain de temps, mais ce n’est pas le principal avantage du système. Les solutions VMS basées sur Hailo permettent plus de flux à s’exécuter en parallèle, et plus d’applications à être traitées pour chaque flux.

La capacité à exploiter l’intelligence artificielle pour traiter plusieurs flux vidéo signifie également que seuls les événements spécifiques doivent être transmis au cloud pour le stockage, permettant ainsi des économies importantes sur la bande passante et la capacité de stockage.

Quelles sont certaines des leçons que vous avez apprises en déployant des applications d’apprentissage profond sur des appareils de pointe ?

Nous avons vu de visu comment l’intelligence artificielle à la périphérie jouera un rôle clé dans la conduite de l’innovation dans une grande variété de secteurs dans les années à venir. Alors que les entreprises recherchent des solutions qui garantissent que leurs appareils sont plus puissants, polyvalents, réactifs et sécurisés, le cloud continuera à céder la place aux appareils de pointe et aux modèles hybrides. Ceux qui réussiront à mettre en œuvre l’intelligence artificielle à la périphérie gagneront un avantage sur tous les plans.

Quelle est votre vision pour l’avenir de l’informatique de pointe ?

L’informatique de pointe – en particulier l’intelligence artificielle à la périphérie – a la capacité de transformer complètement la façon dont le monde qui nous entoure fonctionne, permettant à des appareils tels que des caméras intelligentes, des véhicules intelligents, des robots autonomes, des outils de gestion de trafic avancés, de la construction intelligente, des usines intelligentes et plus encore. L’intelligence artificielle à la périphérie a le pouvoir de changer tout et tout, permettant de nouvelles applications pour rendre notre monde plus intelligent et plus sûr. La technologie de traitement d’intelligence artificielle de Hailo est un grand facilitateur de tous ces cas d’utilisation. Nous allons continuer à collaborer avec des fabricants et des innovateurs du monde entier pour rendre ces solutions plus accessibles.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Hailo.