Michael McTear, professeur émérite à l’Université d’Ulster – Série d’entretiens

Michael McTear est un professeur émérite à l’Université d’Ulster. Il a mené des recherches dans le domaine des systèmes de dialogue parlé pendant plus de 20 ans et est l’auteur de plusieurs livres, notamment récemment Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots (Springer Link 2021). Michael a donné des conférences et des tutoriels lors de nombreuses conférences et ateliers universitaires. Actuellement, Michael est impliqué dans plusieurs projets de recherche et de développement qui étudient l’utilisation d’agents conversationnels pour le soutien à la santé mentale et la surveillance à domicile des adultes âgés.

Qu’est-ce qui vous a initialement attiré vers l’apprentissage automatique ?

Jusqu’à récemment, j’ai travaillé avec des approches basées sur des règles pour l’intelligence conversationnelle, en particulier dans le domaine de la gestion du dialogue où l’idée de base est de développer des règles qui déterminent les stratégies de l’agent dans un dialogue. Cependant, avec les progrès récents de l’apprentissage automatique, d’abord dans l’apprentissage par renforcement et ensuite dans l’apprentissage profond, j’ai constaté que ces approches peuvent potentiellement résoudre certains des problèmes rencontrés par les méthodes basées sur des règles, tels que le problème de mise à l’échelle et la nécessité d’écrire de multiples règles pour répondre à des flux de dialogue plus complexes.

Vous travaillez sur la voix et l’intelligence conversationnelle depuis plus de 20 ans, qu’est-ce qui vous a amené à vous concentrer sur ce domaine ?

J’ai toujours été intéressé par la façon dont les conversations fonctionnent. Dans ma thèse de doctorat, j’ai étudié le développement de la compétence conversationnelle chez les jeunes enfants et c’était le sujet de mon premier livre. Plus tard, j’ai été intrigué par l’idée que les ordinateurs puissent engager des conversations de manière humaine et depuis lors, j’ai suivi les développements dans ce domaine. Au début, c’était un domaine mineur au sein de l’IA, mais au cours des quelques dernières années, il est devenu très important car il a été adopté par les grandes entreprises technologiques comme un domaine d’intérêt stratégique pour elles.

L’un de vos projets récents sur lesquels vous vous êtes concentré est ChatPAL pour promouvoir le bien-être mental dans les zones rurales. Pouvez-vous discuter des défis liés à la création d’un chatbot pour les utilisateurs qui ne sont peut-être pas familiers avec la technologie ou avec le concept de chatbots ?

De nombreuses personnes sont familières avec les assistants vocaux sur leurs smartphones et les enceintes intelligentes telles que Amazon Alexa. Les jeunes utilisent leurs téléphones principalement pour envoyer des messages texte et ils sont donc familiers avec l’idée d’interagir avec un chatbot basé sur du texte. Cependant, lorsqu’il s’agit d’interagir avec un chatbot spécialisé pour un domaine particulier, comme dans notre projet Chatpal qui a été développé pour promouvoir le bien-être mental dans les zones rurales, nous avons constaté que certains utilisateurs avaient des attentes concernant la technologie basées sur leurs expériences avec Alexa et d’autres chatbots similaires qui dépassaient ce que nous pouvions offrir avec des ressources plus limitées. Nous avons tenté de résoudre le problème des utilisateurs qui n’étaient pas familiers avec la technologie ou avec les chatbots grâce à des séances de laboratoire vivant initiales ainsi que en nous assurant que les interactions avec le chatbot étaient naturelles et intuitives.

Quels sont certains des défis liés à la création de chatbots axés sur la santé mentale ?

Il y a le danger que certains utilisateurs s’attendent à plus de la part du chatbot que ce qui est possible avec la technologie actuelle. Nous n’avons pas voulu nous impliquer dans des diagnostics, car nous avons estimé que cela était trop risqué et qu’il y a eu des rapports de réponses de chatbots dans de telles situations qui pourraient être considérées comme nuisibles ou même dangereuses. Nous avons été guidés par les exigences de divers comités d’éthique ainsi que par des normes reconnues pour la conception et le développement de chatbots. Un autre problème est que nous avons constaté qu’il y avait des différences entre les utilisateurs en termes d’utilisation du chatbot. Certains utilisateurs ont abandonné rapidement lorsqu’ils ont rencontré des problèmes techniques, tandis que d’autres étaient prêts à persévérer. Il y avait également une différence liée à l’âge, car les utilisateurs plus jeunes étaient heureux d’interagir avec notre chatbot basé sur du texte, tandis que les utilisateurs plus âgés étaient moins heureux avec ce type d’interface.

Certaines des applications que vous avez travaillées offrent des plans d’action pour les utilisateurs, comment générer efficacement la motivation de l’utilisateur dans une application ?

Pour cela, il est nécessaire de créer et de maintenir des profils pour chaque utilisateur qui reflètent des choses comme leurs prochains rendez-vous, leurs médicaments, leurs préférences générales et ce qu’ils ont discuté lors de conversations précédentes avec le chatbot. Les utilisateurs déclarent souvent qu’ils veulent que le chatbot soit conscient de leurs besoins individuels et qu’il garde une trace de ce qui a été discuté précédemment plutôt que de fournir une interaction plus générique et moins adaptative.

Cependant, contre cela, il y a des problèmes de confidentialité des données et les utilisateurs expriment également des préoccupations concernant l’utilisation de leurs informations personnelles. Il y a un équilibre délicat à trouver ici et, bien sûr, il y a une législation de plus en plus nombreuse pour contrôler l’utilisation éthique de l’IA dans la vie publique et privée.

Quelles sont certaines des considérations éthiques liées à la création de chatbots ?

L’une des principales considérations éthiques à prendre en compte lors de la création de chatbots est de savoir si elles renforcent les stéréotypes de genre. Traditionnellement, les femmes ont occupé des rôles d’assistants dans le lieu de travail, tandis que les hommes ont assumé des rôles de leadership. La mise en œuvre d’un chatbot avec une personnalité féminine pourrait renforcer de tels stéréotypes de genre.

Un autre problème éthique important est de savoir si les chatbots doivent embrasser les valeurs humaines et se comporter de manière à inspirer la confiance. C’est ce qu’on appelle le problème d’alignement. Les chatbots doivent être conçus pour éviter de violer les droits de l’homme et pour créer des préjugés, et leurs décisions doivent être transparentes pour les utilisateurs humains.

De plus, comme mentionné précédemment, les chatbots doivent respecter la confidentialité des utilisateurs et les lois sur la protection des données. Il y a beaucoup de recherche et d’efforts consacrés actuellement à ces considérations éthiques.

Dans un monde qui se concentre sur les chatbots qui parlent anglais, quels sont certains des défis liés à la conception de chatbots multilingues et internationaux ?

Tout dépend de la disponibilité de ressources linguistiques telles que des modèles de langage et, pour les systèmes basés sur la voix, des moteurs de reconnaissance de la parole et de synthèse de la parole. Ce n’est pas un problème pour les langues largement parlées, mais c’est difficile pour les langues à ressources limitées qui peuvent néanmoins être parlées par un grand nombre de personnes et où il y a un besoin défini pour les services d’un chatbot. Une solution possible est d’utiliser l’apprentissage transféré à partir d’un modèle pré-entraîné dans une langue telle que l’anglais et de le réajuster avec des données de la langue à ressources limitées.

La plupart des applications que vous avez conçues utilisent des logiciels open source, quels sont certains des meilleurs outils open source disponibles ?

L’utilisation de logiciels open source était une exigence des agences qui ont financé nos projets.

Nous avons utilisé Rasa dans nos projets car il est open source mais également très puissant car il utilise les derniers développements dans les technologies d’IA conversationnelle. En plus de Rasa, il y a plusieurs excellentes solutions logicielles d’IA conversationnelle open source, notamment : Botpress, Microsoft Bot Framework, OpenDialog et DeepPavlov, pour n’en citer que quelques-uns.

Vous allez parler lors de la prochaine conférence Future of Chatbots & Conversational AI Summit organisée par Group futurista, de quoi allez-vous discuter ?

Dans mon exposé, je vais comparer les approches traditionnelles de développement de chatbots basées sur les meilleures pratiques, connues sous le nom de conception de conversation, avec de nouvelles approches basées sur les grands modèles de langage tels que ChatGPT. Je vais couvrir les avantages et les inconvénients de chaque approche et soutenir que, même si les approches basées sur les grands modèles de langage offrent beaucoup de potentiel pour le développement futur des chatbots, il y a encore de nombreux problèmes avec l’utilisation non contrôlée des grands modèles de langage, en particulier dans des domaines tels que les soins de santé et les affaires, de sorte qu’il y a toujours un besoin de concepteurs de conversation qui peuvent garantir une IA conversationnelle explicative, transparente et éthique.

Merci pour cette grande interview, les lecteurs qui souhaitent entendre Michael McTear parler devraient assister à la conférence Future of Chatbots & Conversational AI Summit organisée par Group futurista.