Nouveaux Horizons de l’Intelligence Artificielle Générative — Loin du Nuage

Au début, il y avait l’internet, qui a changé notre vie à jamais — la façon dont nous communiquons, faisons des achats, conduisons nos affaires. Et puis, pour des raisons de latence, de confidentialité et d’efficacité coût, l’internet s’est déplacé vers le bord du réseau, donnant naissance à l’« internet des objets ».

Or, il y a maintenant l’intelligence artificielle, qui rend tout ce que nous faisons sur l’internet plus facile, plus personnalisé, plus intelligent. Pour l’utiliser, cependant, des serveurs importants sont nécessaires, ainsi qu’une grande capacité de calcul, donc elle est confinée au nuage. Mais les mêmes motivations — latence, confidentialité, efficacité coût — ont poussé des entreprises comme Hailo à développer des technologies qui permettent l’IA au bord.

Sans aucun doute, la prochaine grande chose est l’intelligence artificielle générative. L’intelligence artificielle générative présente un potentiel énorme dans de nombreux secteurs. Elle peut être utilisée pour rationaliser le travail et augmenter l’efficacité de divers créateurs — avocats, rédacteurs de contenu, graphistes, musiciens, etc. Elle peut aider à découvrir de nouveaux médicaments thérapeutiques ou à faciliter les procédures médicales. L’intelligence artificielle générative peut améliorer l’automatisation industrielle, développer de nouveaux codes logiciels et renforcer la sécurité des transports grâce à la synthèse automatisée de vidéos, d’audio, d’images, etc.

Cependant, l’intelligence artificielle générative telle qu’elle existe aujourd’hui est limitée par la technologie qui la permet. C’est parce que l’intelligence artificielle générative se produit dans le nuage — de grands centres de données coûteux et consommateurs d’énergie, éloignés des utilisateurs réels. Lorsqu’une personne émet une invite à un outil d’intelligence artificielle générative comme ChatGPT ou une nouvelle solution de vidéoconférence basée sur l’IA, la demande est transmise via l’internet au nuage, où elle est traitée par des serveurs avant que les résultats soient renvoyés sur le réseau.

À mesure que les entreprises développent de nouvelles applications pour l’intelligence artificielle générative et les déployer sur différents types d’appareils — caméras de sécurité et systèmes de sécurité, robots industriels et personnels, ordinateurs portables et même voitures — le nuage constitue un goulet d’étranglement en termes de bande passante, de coût et de connectivité.

Et pour des applications comme l’assistance à la conduite, les logiciels pour ordinateur personnel, la vidéoconférence et la sécurité, le déplacement constant de données sur un réseau peut constituer un risque pour la confidentialité.

La solution consiste à permettre à ces appareils de traiter l’intelligence artificielle générative au bord. En fait, l’intelligence artificielle générative basée sur le bord est susceptible de bénéficier à de nombreuses applications émergentes.

L’Intelligence Artificielle Générative en Plein Essor

Considérez que, en juin, Mercedes-Benz a annoncé qu’il allait intégrer ChatGPT à ses voitures. Dans une Mercedes améliorée par ChatGPT, par exemple, un conducteur pourrait demander à la voiture — sans utiliser ses mains — une recette de dîner en fonction des ingrédients qu’il a déjà à la maison. C’est-à-dire si la voiture est connectée à l’internet. Dans un garage de stationnement ou un endroit éloigné, tout est possible.

Au cours des deux dernières années, la vidéoconférence est devenue une seconde nature pour la plupart d’entre nous. Déjà, les sociétés de logiciels intègrent des formes d’IA dans les solutions de vidéoconférence. Peut-être s’agit-il d’optimiser la qualité audio et vidéo en temps réel, ou de « placer » les personnes dans le même espace virtuel. Maintenant, les vidéoconférences alimentées par l’intelligence artificielle générative peuvent créer automatiquement des procès-verbaux de réunion ou intégrer des informations pertinentes provenant de sources d’entreprise en temps réel à mesure que différents sujets sont discutés.

Cependant, si une voiture intelligente, un système de vidéoconférence ou tout autre appareil de bord ne peut pas se connecter au nuage, alors l’expérience d’intelligence artificielle générative ne peut pas se produire. Mais qu’est-ce qui se passerait si cela n’était pas nécessaire ? Cela ressemble à une tâche difficile compte tenu du traitement massif de l’IA dans le nuage, mais cela devient maintenant possible.

L’Intelligence Artificielle Générative au Bord

Déjà, il existe des outils d’intelligence artificielle générative, par exemple, qui peuvent créer automatiquement des présentations PowerPoint riches et engageantes. Mais l’utilisateur a besoin que le système fonctionne depuis n’importe où, même sans connexion internet.

De même, nous voyons déjà une nouvelle classe d’assistants « copilotes » basés sur l’intelligence artificielle générative qui vont fondamentalement changer la façon dont nous interagissons avec nos appareils de calcul en automatisant de nombreuses tâches routinières, comme la création de rapports ou la visualisation de données. Imaginez ouvrir un ordinateur portable, l’ordinateur portable vous reconnaissant via sa caméra, puis générant automatiquement un plan d’action pour la journée/semaine/mois en fonction de vos outils les plus utilisés, comme Outlook, Teams, Slack, Trello, etc. Mais pour maintenir la confidentialité des données et une bonne expérience utilisateur, vous devez avoir la possibilité d’exécuter l’intelligence artificielle générative localement.

En plus de relever les défis des connexions peu fiables et de la confidentialité des données, l’IA de bord peut aider à réduire les demandes de bande passante et à améliorer les performances des applications. Par exemple, si une application d’intelligence artificielle générative crée du contenu riche en données, comme un espace de conférence virtuel, via le nuage, le processus pourrait être retardé en fonction de la bande passante disponible (et coûteuse). Et certains types d’applications d’intelligence artificielle générative, comme la sécurité, la robotique ou les soins de santé, nécessitent des réponses à haute performance et à faible latence que les connexions au nuage ne peuvent pas gérer.

Dans la sécurité vidéo, la capacité de réidentifier les personnes lorsqu’elles se déplacent entre de nombreuses caméras — certaines placées là où les réseaux ne peuvent pas atteindre — nécessite des modèles de données et un traitement IA dans les caméras elles-mêmes. Dans ce cas, l’intelligence artificielle générative peut être appliquée à des descriptions automatisées de ce que les caméras voient via de simples requêtes comme « Trouver l’enfant de 8 ans avec le t-shirt rouge et la casquette de baseball ».

c’est l’intelligence artificielle générative au bord.

Évolutions de l’IA de Bord

Grâce à l’adoption d’une nouvelle classe de processeurs IA et au développement de modèles de données d’intelligence artificielle générative plus légers et plus efficaces, les appareils de bord peuvent être conçus pour fonctionner de manière intelligente là où la connectivité au nuage est impossible ou indésirable.

Bien sûr, le traitement dans le nuage restera un composant essentiel de l’intelligence artificielle générative. Par exemple, la formation de modèles d’IA restera dans le nuage. Mais l’application des entrées utilisateur à ces modèles, appelée inférence, peut — et dans de nombreux cas doit — se produire au bord.

L’industrie est déjà en train de développer des modèles d’IA plus légers, plus petits et plus efficaces qui peuvent être chargés sur les appareils de bord. Des entreprises comme Hailo fabriquent des processeurs d’IA conçus spécifiquement pour effectuer un traitement de réseau de neurones. De tels processeurs de réseau de neurones gèrent non seulement les modèles d’IA de manière incroyablement rapide, mais le font également avec moins de puissance, ce qui les rend économes en énergie et adaptés à une variété d’appareils de bord, des smartphones aux caméras.

Le traitement de l’intelligence artificielle générative au bord peut également équilibrer efficacement les charges de travail croissantes, permettre aux applications de s’étendre de manière plus stable, soulager les centres de données du nuage d’un traitement coûteux et les aider à réduire leur empreinte carbone.

L’intelligence artificielle générative est sur le point de changer à nouveau l’informatique. Dans le futur, le LLM sur votre ordinateur portable peut être mis à jour automatiquement de la même manière que votre système d’exploitation aujourd’hui — et fonctionner de la même manière. Mais pour y arriver, nous devrons permettre le traitement de l’intelligence artificielle générative au bord du réseau. Le résultat promet d’être une meilleure performance, une efficacité énergétique et une confidentialité et une sécurité accrues. Tout cela conduit à des applications d’IA qui changent le monde autant que l’intelligence artificielle générative elle-même.