Lama Nachman, Intel Fellow & Directeur du Laboratoire de Calcul Anticipatif – Série d’entretiens

Lama Nachman, est un Intel (INTC ) Fellow et Directeur du Laboratoire de Calcul Anticipatif. Lama est surtout connue pour son travail avec le professeur Stephen Hawking, elle a joué un rôle instrumental dans la création d’un système informatique d’assistance pour aider le professeur Stephen Hawking à communiquer. Aujourd’hui, elle aide le roboticiste britannique Dr. Peter Scott-Morgan à communiquer. En 2017, le Dr. Peter Scott-Morgan a reçu un diagnostic de maladie des neurones moteurs (MND), également connue sous le nom de maladie d’ALS ou de maladie de Lou Gehrig. La MND attaque le cerveau et les nerfs et paralyse finalement tous les muscles, y compris ceux qui permettent de respirer et de déglutir.

Le Dr. Peter Scott-Morgan a déclaré un jour : « Je vais continuer à évoluer, mourir en tant qu’humain, vivre en tant que cyborg. »

Qu’est-ce qui vous a attiré vers l’IA ?

J’ai toujours été attiré par l’idée que la technologie peut être le grand égalisateur. Lorsqu’elle est développée de manière responsable, elle a le potentiel de nivellement du champ de jeu, de résoudre les inégalités sociales et d’amplifier le potentiel humain. Nulle part cela n’est plus vrai que avec l’IA. Alors que beaucoup de l’industrie de l’IA et des humains positionnent la relation entre les deux comme adversaire, je crois qu’il y a des choses uniques que les machines et les humains sont bons à faire, donc je préfère voir l’avenir à travers le prisme de la collaboration humaine-IA plutôt que de la concurrence humaine-IA. Je dirige le Laboratoire de Calcul Anticipatif chez Intel Labs où, à travers tous nos efforts de recherche, nous avons un objectif unique de fournir une innovation informatique qui a un impact sociétal large. Étant donné à quel point l’IA est déjà omniprésente et son empreinte croissante dans tous les aspects de notre vie, je vois un énorme potentiel dans la recherche que mon équipe mène pour rendre l’IA plus accessible, plus consciente du contexte, plus responsable et finalement apporter des solutions technologiques à grande échelle pour aider les gens dans le monde réel.

Vous avez travaillé en étroite collaboration avec le physicien légendaire, le professeur Stephen Hawking, pour créer un système d’IA qui l’a aidé à communiquer et à effectuer des tâches que la plupart d’entre nous considéreraient comme routinières. Quelles étaient certaines de ces tâches routinières ?

Travailler avec le professeur Stephen Hawking a été l’entreprise la plus significative et la plus difficile de ma vie. Cela a nourri mon âme et m’a vraiment montré à quel point la technologie peut améliorer considérablement la vie des gens. Il vivait avec l’ALS, une maladie neurologique dégénérative, qui enlève au patient, au fil du temps, la capacité de réaliser les activités les plus simples. En 2011, nous avons commencé à travailler avec lui pour explorer comment améliorer le système informatique d’assistance qui lui permettait d’interagir avec le monde. En plus d’utiliser son ordinateur pour parler aux gens, Stephen utilisait son ordinateur comme nous le faisons tous, en éditant des documents, en naviguant sur Internet, en donnant des conférences, en lisant et en écrivant des e-mails, etc. La technologie a permis à Stephen de continuer à participer activement au monde et à l’inspirer pendant des années après que ses capacités physiques se soient rapidement détériorées. C’est, à mon avis, ce que l’impact significatif de la technologie sur la vie de quelqu’un peut ressembler !

Quelles sont certaines des principales conclusions que vous avez tirées de votre travail avec le professeur Stephen Hawking ?

Notre écran d’ordinateur est vraiment notre porte d’entrée dans le monde. Si les gens peuvent contrôler leur PC, ils peuvent contrôler tous les aspects de leur vie (consommer du contenu, accéder au monde numérique, contrôler leur environnement physique, naviguer dans leur fauteuil roulant, etc.). Pour les personnes handicapées qui peuvent encore parler, les progrès de la reconnaissance vocale leur permettent d’avoir un contrôle total de leurs appareils (et dans une large mesure, de leur environnement physique). Cependant, ceux qui ne peuvent pas parler et qui sont incapables de bouger sont vraiment handicapés dans leur capacité à exercer leur indépendance. Ce que l’expérience avec le professeur Hawking m’a enseigné, c’est que les plateformes de technologie d’assistance doivent être adaptées aux besoins spécifiques de l’utilisateur. Par exemple, nous ne pouvons pas supposer qu’une seule solution fonctionnera pour les personnes atteintes de la maladie d’ALS, car la maladie affecte différentes capacités chez les patients. Nous avons donc besoin de technologies qui peuvent être facilement configurées et adaptées aux besoins individuels. C’est pourquoi nous avons créé ACAT (Assistive Context Aware Toolkit), une plate-forme logicielle modulaire et open source qui peut permettre aux développeurs d’innover et de créer différentes capacités à partir de celle-ci.

Je me suis également rendu compte qu’il est important de comprendre le seuil de confort de chaque utilisateur en échange de contrôle pour plus d’efficacité (ce qui n’est pas limité aux personnes handicapées). Par exemple, l’IA peut être capable de prendre plus de contrôle de l’utilisateur pour effectuer une tâche plus rapidement ou plus efficacement, mais chaque utilisateur a un niveau différent d’aversion au risque. Certains sont prêts à abandonner plus de contrôle, tandis que d’autres utilisateurs veulent en conserver davantage. Comprendre ces seuils et jusqu’où les gens sont prêts à aller a un impact significatif sur la façon dont ces systèmes peuvent être conçus. Nous devons repenser la conception de système en termes de niveau de confort de l’utilisateur plutôt que seulement en termes de mesures objectives d’efficacité et de précision.

Plus récemment, vous avez travaillé avec un scientifique britannique célèbre, Peter Scott Morgan, qui souffre de maladie des neurones moteurs et qui a pour objectif de devenir le premier cyborg complet du monde. Quels sont certains des objectifs ambitieux que Peter a ?

L’un des problèmes de la communication d’assistance et d’augmentation (AAC) est le « silence » entre les échanges. Beaucoup de personnes atteintes de la maladie d’ALS (y compris Peter) utilisent un contrôle visuel pour choisir des lettres / des mots sur l’écran pour parler aux autres. Cela entraîne un long silence après que quelqu’un a terminé sa phrase, pendant que la personne regarde son ordinateur et commence à formuler ses lettres et ses mots pour répondre. Peter voulait réduire cet espace de silence autant que possible pour ramener la spontanéité verbale à la communication. Il voulait également préserver sa voix et sa personnalité et utiliser un système de reconnaissance vocale qui exprime son style de communication unique (par exemple, ses traits d’esprit, son sarcasme rapide, ses émotions).

Le roboticiste britannique Dr. Peter Scott-Morgan, qui souffre de maladie des neurones moteurs, a subi en 2019 une série d’opérations pour prolonger sa vie en utilisant la technologie. (Crédit : Cardiff Productions)

Pouvez-vous discuter des technologies actuellement utilisées pour aider le Dr. Peter Scott-Morgan ?

Peter utilise ACAT (Assistive Context Aware Toolkit), la plate-forme que nous avons créée lors de notre travail avec le Dr. Hawking et que nous avons ensuite publiée en open source. Contrairement au Dr. Hawking, qui utilisait les muscles de sa joue comme « déclencheur d’entrée » pour contrôler les lettres sur son écran, Peter utilise un contrôle visuel (une fonctionnalité que nous avons ajoutée à l’ACAT existant) pour parler et contrôler son PC, qui est connecté à une solution de reconnaissance vocale d’une entreprise appelée CereProc qui a été personnalisée pour lui et lui permet d’exprimer différentes émotions / accents. Le système contrôle également un avatar qui a été personnalisé pour lui.

Nous travaillons actuellement sur un système de génération de réponses pour ACAT qui permettra à Peter d’interagir avec le système à un niveau plus élevé en utilisant les capacités de l’IA. Ce système écoutera les conversations de Peter au fil du temps et suggérera des réponses pour que Peter les choisisse sur l’écran. L’objectif est que, au fil du temps, le système d’IA apprenne à partir des données de Peter et lui permette de « pousser » le système pour fournir les meilleures réponses en utilisant uniquement quelques mots clés (semblable à la façon dont les recherches fonctionnent sur le Web aujourd’hui). Notre objectif avec le système de génération de réponses est de réduire l’espace de silence dans la communication mentionné ci-dessus et de permettre à Peter et aux futurs utilisateurs d’ACAT de communiquer à un rythme qui se sent plus « naturel ».

Vous avez également parlé de l’importance de la transparence dans l’IA, à quel point est-ce un problème ?

C’est un problème important, en particulier lorsqu’il est déployé dans des systèmes de prise de décision ou des systèmes de collaboration humaine-IA. Par exemple, dans le cas du système d’assistance de Peter, nous devons comprendre ce qui amène le système à faire ces recommandations et comment influencer l’apprentissage de ce système pour exprimer plus fidèlement ses idées.

Dans le contexte plus large des systèmes de prise de décision, que ce soit pour aider au diagnostic sur la base de l’imagerie médicale ou pour faire des recommandations sur l’octroi de prêts, les systèmes d’IA doivent fournir des informations interprétables par les humains sur la façon dont ils sont arrivés à ces décisions, quels attributs ou fonctionnalités ont eu le plus d’impact sur cette décision, quel est le niveau de confiance du système dans l’inférence faite, etc. Cela augmente la confiance dans les systèmes d’IA et permet une meilleure collaboration entre les humains et l’IA dans les scénarios de prise de décision mixte.

Les préjugés de l’IA, en particulier en ce qui concerne le racisme et le sexisme, sont un énorme problème, mais comment identifiez-vous d’autres types de préjugés lorsque vous ne savez pas quels préjugés vous recherchez ?

C’est un problème très difficile et qui ne peut pas être résolu avec la technologie seule. Nous devons apporter plus de diversité dans le développement des systèmes d’IA (racial, sexuel, culturel, capacité physique, etc.). C’est clairement un énorme écart dans la population qui construit ces systèmes d’IA aujourd’hui. En outre, il est essentiel d’avoir des équipes pluridisciplinaires engagées dans la définition et le développement de ces systèmes, en apportant des sciences sociales, de la philosophie, de la psychologie, de l’éthique et de la politique à la table (et non seulement l’informatique), et en s’engageant dans le processus d’enquête dans le contexte des projets et des problèmes spécifiques.

Vous avez parlé auparavant de l’utilisation de l’IA pour amplifier le potentiel humain. Quels sont certains des domaines qui montrent le plus de promesses pour cette amplification du potentiel humain ?

Un domaine évident est de permettre aux personnes handicapées de vivre de manière plus indépendante, de communiquer avec leurs proches et de continuer à créer et à contribuer à la société. Je vois un grand potentiel dans l’éducation, dans la compréhension de l’engagement des étudiants et de la personnalisation de l’expérience d’apprentissage aux besoins et aux capacités individuelles de l’étudiant pour améliorer l’engagement, habiliter les enseignants avec ces connaissances et améliorer les résultats d’apprentissage. L’inégalité dans l’éducation aujourd’hui est si profonde et il y a un endroit pour l’IA pour aider à réduire certaines de ces inégalités si nous le faisons correctement. Il y a des opportunités infinies pour l’IA d’apporter une grande valeur en créant des systèmes de collaboration humaine-IA dans de nombreux secteurs (santé, fabrication, etc.) car ce que les humains et l’IA apportent à la table sont très complémentaires. Pour que cela se produise, nous devons innover à l’intersection des sciences sociales, de l’interaction homme-ordinateur et de l’IA. La perception multimodale robuste, la conscience du contexte, l’apprentissage à partir de données limitées, l’interaction homme-ordinateur physiquement située et l’interprétabilité sont certains des défis clés sur lesquels nous devons nous concentrer pour rendre cette vision réalité.

Vous avez également parlé de l’importance de la reconnaissance des émotions pour l’avenir de l’IA ? Pourquoi l’industrie de l’IA devrait-elle se concentrer davantage sur ce domaine de recherche ?

La reconnaissance des émotions est une capacité clé des systèmes humains-IA pour plusieurs raisons. Un aspect est que l’émotion humaine offre un contexte humain clé pour que tout système proactif comprenne avant d’agir.

Plus important encore, ces types de systèmes doivent continuer à apprendre dans la nature et s’adapter en fonction des interactions avec les utilisateurs, et tandis que les commentaires directs sont un signal clé pour l’apprentissage, les signaux indirects sont très importants et ils sont gratuits (moins de travail pour l’utilisateur). Par exemple, un assistant numérique peut apprendre beaucoup de la frustration dans la voix d’un utilisateur et utiliser cela comme signal de rétroaction pour l’apprentissage de ce que faire à l’avenir, au lieu de demander à l’utilisateur de fournir des commentaires chaque fois. Ces informations peuvent être utilisées pour les systèmes d’IA d’apprentissage actif pour continuer à s’améliorer avec le temps.

Y a-t-il autre chose que vous aimeriez partager sur ce que vous travaillez au Laboratoire de Calcul Anticipatif ou sur d’autres questions que nous avons discutées ?

Lorsque nous construisons des systèmes d’assistance, nous devons vraiment réfléchir à la façon de construire ces systèmes de manière responsable et à la façon de permettre aux gens de comprendre quelles informations sont collectées et comment contrôler ces systèmes de manière pratique. En tant que chercheurs en IA, nous sommes souvent fascinés par les données et voulons avoir autant de données que possible pour améliorer ces systèmes, cependant, il y a un compromis entre le type et la quantité de données que nous voulons et la vie privée de l’utilisateur. Nous devons vraiment limiter les données que nous collectons à ce qui est absolument nécessaire pour effectuer la tâche d’inférence, rendre les utilisateurs conscients de exactement quelles données nous collectons et leur permettre de régler ce compromis de manière significative et utilisable.

Je vous remercie pour cet entretien fantastique, les lecteurs qui souhaitent en savoir plus sur ce projet devraient lire l’article Intel’s Lama Nachman et Peter Scott-Morgan : Deux scientifiques, l’un un « cyborg humain ».

L’équipe du Laboratoire de Calcul Anticipatif d’Intel qui a développé l’Assistive Context-Aware Toolkit comprend (de gauche à droite) Alex Nguyen, Sangita Sharma, Max Pinaroc, Sai Prasad, Lama Nachman et Pete Denman. Ne sont pas représentés Bruna Girvent, Saurav Sahay et Shachi Kumar. (Crédit : Lama Nachman)