Michael McTear, Professeur émérite à l’Université d’Ulster – Série d’entretiens

Michael McTear est un professeur émérite à l’Université d’Ulster. Il a mené des recherches dans le domaine des systèmes de dialogue parlé pendant plus de 20 ans et est l’auteur de plusieurs livres, notamment Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots (Springer Link 2021). Michael a donné des conférences et des tutoriels dans de nombreux colloques et ateliers universitaires. Actuellement, Michael est impliqué dans plusieurs projets de recherche et de développement qui étudient l’utilisation d’agents conversationnels pour le soutien à la santé mentale et la surveillance à domicile des personnes âgées.

Qu’est-ce qui vous a initialement attiré vers l’apprentissage automatique ?

Jusqu’à récemment, j’ai travaillé avec des approches basées sur des règles pour l’IA conversationnelle, en particulier dans le domaine de la gestion du dialogue où l’idée de base est de développer des règles qui déterminent les stratégies de l’agent dans un dialogue. Cependant, avec les progrès récents de l’apprentissage automatique, d’abord avec l’apprentissage par renforcement et ensuite avec l’apprentissage profond, j’ai constaté que ces approches peuvent potentiellement résoudre certains des problèmes rencontrés par les méthodes basées sur des règles, tels que le problème de mise à l’échelle et la nécessité d’écrire de multiples règles pour répondre à des flux de dialogue plus complexes.

Vous avez travaillé sur la voix et l’IA conversationnelle pendant plus de 20 ans, qu’est-ce qui vous a amené à vous concentrer sur ce domaine ?

J’ai toujours été intéressé par la façon dont les conversations fonctionnent. Dans ma thèse de doctorat, j’ai étudié le développement de la compétence conversationnelle chez les jeunes enfants, et c’était le sujet de mon premier livre. Plus tard, j’ai été intrigué par l’idée que les ordinateurs puissent engager des conversations de manière humaine, et depuis, j’ai suivi les développements dans ce domaine. Au début, c’était un domaine mineur dans l’IA, mais au cours des dernières années, il est devenu très important, car il a été adopté par les grandes entreprises technologiques comme un domaine d’intérêt stratégique pour elles.

L’un de vos projets récents sur lesquels vous avez travaillé est ChatPAL pour promouvoir le bien-être mental dans les zones rurales. Pouvez-vous discuter des défis liés à la création d’un chatbot pour les utilisateurs qui ne sont peut-être pas familiers avec la technologie ou le concept de chatbots ?

De nombreuses personnes sont familières avec les assistants vocaux sur leurs smartphones et les enceintes intelligentes telles que Amazon Alexa. Les jeunes utilisent leurs téléphones principalement pour envoyer des messages texte, ils sont donc familiers avec l’idée d’interagir avec un chatbot basé sur du texte. Cependant, lorsqu’il s’agit d’interagir avec un chatbot spécialisé dans un domaine particulier, comme notre projet Chatpal, qui a été développé pour promouvoir le bien-être mental dans les zones rurales, nous avons constaté que certains utilisateurs avaient des attentes à propos de la technologie basées sur leurs expériences avec Alexa et d’autres chatbots similaires, qui dépassaient ce que nous pouvions offrir avec des ressources plus limitées. Nous avons tenté de résoudre le problème des utilisateurs qui n’étaient pas familiers avec la technologie ou les chatbots grâce à des sessions de laboratoire vivant et en nous assurant que les interactions avec le chatbot étaient naturelles et intuitives.

Quels sont les défis liés à la création de chatbots axés sur la santé mentale ?

Il y a le danger que certains utilisateurs puissent attendre plus du chatbot que ce qui est possible avec la technologie actuelle. Nous n’avons pas voulu nous lancer dans des diagnostics, car nous pensions que c’était trop risqué, et il y a eu des rapports sur les réponses des chatbots dans de telles situations qui pourraient être considérées comme nuisibles ou même dangereuses. Nous avons été guidés par les exigences de divers comités d’éthique ainsi que par des normes reconnues pour la conception et le développement de chatbots. Un autre problème est que nous avons constaté qu’il y avait des différences entre les utilisateurs en termes d’utilisation du chatbot. Certains utilisateurs ont abandonné rapidement lorsqu’ils ont rencontré des problèmes techniques, tandis que d’autres étaient prêts à persévérer. Il y avait également une différence liée à l’âge, les utilisateurs plus jeunes étant heureux d’interagir avec notre chatbot basé sur du texte, tandis que les utilisateurs plus âgés étaient moins heureux avec ce type d’interface.

Certains des applications que vous avez conçues offrent des plans d’action pour les utilisateurs, comment génerez-vous efficacement la motivation de l’utilisateur dans une application ?

Pour cela, il est nécessaire de créer et de maintenir des profils pour chaque utilisateur qui reflètent des éléments tels que leurs prochains rendez-vous, leurs médicaments, leurs préférences générales et ce qu’ils ont discuté lors de conversations précédentes avec le chatbot. Les utilisateurs déclarent souvent qu’ils veulent que le chatbot soit conscient de leurs besoins individuels et qu’il suive ce qui a été discuté précédemment, plutôt que de fournir une interaction plus générique et moins adaptative.

Cependant, contre cela, il y a des problèmes de confidentialité des données, et les utilisateurs expriment également une préoccupation quant à l’utilisation de leurs informations personnelles. Il y a un équilibre délicat à trouver ici, et il y a une quantité croissante de législation pour contrôler l’utilisation éthique de l’IA dans la vie publique et privée.

Quelles sont les considérations éthiques liées à la création de chatbots ?

L’une des principales considérations éthiques à prendre en compte lors de la création de chatbots est de savoir si elles renforcent les stéréotypes de genre. Traditionnellement, les femmes ont occupé des rôles d’assistants dans le lieu de travail, tandis que les hommes ont assumé des rôles de leadership. La mise en œuvre d’un chatbot avec une personnalité féminine pourrait renforcer de tels stéréotypes de genre.

Un autre problème éthique important est de savoir si les chatbots doivent adopter des valeurs humaines et se comporter de manière à inspirer la confiance. C’est ce qu’on appelle le problème d’alignement. Les chatbots doivent être conçus de manière à éviter de violer les droits de l’homme et à créer des préjugés, et leurs décisions doivent être transparentes pour les utilisateurs humains.

Comme mentionné précédemment, les chatbots doivent également respecter la confidentialité des utilisateurs et les lois sur la protection des données. Il y a beaucoup de recherches et d’efforts actuellement consacrés à ces considérations éthiques.

Dans un monde qui se concentre sur les chatbots qui parlent anglais, quels sont les défis liés à la conception de chatbots multilingues et internationaux ?

Tout dépend de la disponibilité des ressources linguistiques telles que les modèles de langage et, pour les systèmes basés sur la voix, les moteurs de reconnaissance et de synthèse de la parole. Ce n’est pas un problème pour les langues largement parlées, mais c’est difficile pour les langues à ressources limitées qui peuvent néanmoins être parlées par un grand nombre de personnes et où il y a un besoin réel des services d’un chatbot. Une solution possible est d’utiliser l’apprentissage par transfert à partir d’un modèle pré-entraîné dans une langue telle que l’anglais et de le mettre à jour avec des données de la langue à ressources limitées.

La plupart des applications que vous avez conçues utilisent des logiciels open source, quels sont les meilleurs outils open source disponibles ?

L’utilisation de logiciels open source était une exigence des agences qui ont financé nos projets.

Nous avons utilisé Rasa dans nos projets, car c’est open source, mais également très puissant, car il utilise les dernières avancées en matière d’IA conversationnelle. Outre Rasa, il y a plusieurs excellents produits logiciels d’IA conversationnelle open source, notamment: Botpress, Microsoft (MSFT ) Bot Framework, OpenDialog et DeepPavlov, pour n’en citer que quelques-uns.

Vous allez parler à la prochaine conférence Future of Chatbots & Conversational AI Summit organisée par Group futurista, de quoi allez-vous discuter ?

Lors de ma conférence, je vais comparer les approches traditionnelles de développement de chatbots basées sur les meilleures pratiques, appelées conception de conversation, avec de nouvelles approches basées sur les grands modèles de langage tels que ChatGPT. Je vais couvrir les avantages et les inconvénients de chaque approche et soutenir que, même si les approches basées sur les grands modèles de langage offrent beaucoup de potentiel pour le développement futur des chatbots, il y a encore de nombreux problèmes avec l’utilisation non contrôlée des grands modèles de langage, en particulier dans des domaines tels que la santé et les entreprises, de sorte qu’il y a toujours un besoin de concepteurs de conversation qui puissent garantir une IA conversationnelle explicite, transparente et éthique.

Merci pour cette grande interview, les lecteurs qui souhaitent entendre Michael McTear parler devraient assister à la conférence Future of Chatbots & Conversational AI Summit organisée par Group futurista.