Michael McTear, Profesor Emérito en la Universidad de Ulster – Serie de Entrevistas

Michael McTear es un Profesor Emérito en la Universidad de Ulster. Ha estado investigando en el campo de los sistemas de diálogo hablado durante más de 20 años y es autor de varios libros, incluyendo más recientemente Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots (Springer Link 2021). Michael ha dado conferencias y tutoriales en muchas conferencias y talleres académicos. Actualmente, Michael está involucrado en varios proyectos de investigación y desarrollo que investigan el uso de agentes conversacionales en el apoyo a la salud mental y el monitoreo en el hogar de adultos mayores.

¿Qué te atrajo inicialmente a la inteligencia artificial?

Hasta hace poco, he trabajado con enfoques basados en reglas para la inteligencia artificial conversacional, particularmente en el área de gestión del diálogo donde la idea básica es desarrollar reglas que determinen las estrategias del agente en un diálogo. Sin embargo, con los avances recientes en la inteligencia artificial, primero en el aprendizaje por refuerzo y luego en el aprendizaje profundo, he encontrado que estos enfoques pueden potencialmente abordar algunos de los problemas que enfrentan los métodos basados en reglas, como el problema de escalabilidad y la necesidad de escribir múltiples reglas para adaptarse a flujos de diálogo más complejos.

Llevas más de 20 años trabajando en voz y inteligencia artificial conversacional, ¿qué te hizo enfocarte en este campo?

He estado interesado en cómo funciona la conversación durante mucho tiempo. En mi tesis doctoral, estudié el desarrollo de la competencia conversacional en niños pequeños y este fue el tema de mi primer libro. Más tarde, me intrigó la idea de que las computadoras podrían participar en conversaciones de manera similar a la humana y desde entonces he seguido los desarrollos en este área. Al principio, era un área muy minoritaria dentro de la inteligencia artificial, pero en los últimos años ha become muy importante ya que ha sido adoptada por las grandes empresas de tecnología como un área de interés estratégico para ellas.

Uno de tus proyectos más recientes en el que te enfocaste es ChatPAL para promover el bienestar mental en áreas rurales. ¿Puedes hablar sobre los desafíos detrás de la creación de un chatbot para usuarios que pueden no ser técnicamente habilidosos o familiarizados con el concepto de chatbots?

Muchas personas están familiarizadas con asistentes de voz en sus smartphones y altavoces inteligentes como Amazon Alexa. Los jóvenes usan sus teléfonos principalmente para enviar mensajes de texto, por lo que están familiarizados con la idea de interactuar con un chatbot basado en texto. Sin embargo, cuando se trata de interactuar con un chatbot especializado en un dominio específico, como en nuestro proyecto Chatpal que se desarrolló para promover el bienestar mental en áreas rurales, encontramos que algunos usuarios tenían expectativas sobre la tecnología basadas en sus experiencias con Alexa y otros chatbots similares que excedían lo que podríamos ofrecer con recursos más limitados. Intentamos abordar el problema de los usuarios que no eran técnicamente habilidosos o familiarizados con los chatbots a través de sesiones de laboratorio vivencial iniciales, así como asegurando que las interacciones con el chatbot fueran naturales e intuitivas.

¿Cuáles son algunos de los desafíos detrás de la creación de chatbots enfocados en la salud mental?

Hay el peligro de que algunos usuarios puedan esperar más del chatbot de lo que es posible con la tecnología actual. No queríamos involucrarnos en realizar ningún diagnóstico, ya que sentimos que esto es demasiado arriesgado y ha habido informes de respuestas de chatbots en tales situaciones que podrían considerarse perjudiciales o incluso peligrosas. Estábamos guiados por los requisitos de varios comités de ética, así como por estándares reconocidos para el diseño y desarrollo de chatbots. Otro problema es que encontramos que había diferencias entre los usuarios en términos de cómo usaban el chatbot. Algunos usuarios se rindieron rápidamente cuando experimentaron problemas técnicos, mientras que otros estaban dispuestos a persistir. También hubo una diferencia relacionada con la edad, ya que los usuarios más jóvenes estaban felices de interactuar con nuestro chatbot basado en texto, mientras que los usuarios más mayores estaban menos felices con este tipo de interfaz.

Algunas de las aplicaciones que has trabajado ofrecen planes de acción para los usuarios, ¿cómo generas efectivamente la motivación del usuario en una aplicación?

Para hacer esto, es necesario crear y mantener perfiles para cada usuario que reflejen cosas como sus próximas citas, medicamentos, preferencias generales y lo que han discutido en conversaciones anteriores con el chatbot. Los usuarios a menudo afirman que quieren que el chatbot esté al tanto de sus necesidades individuales y que mantenga un registro de lo que se ha discutido antes, en lugar de proporcionar una interacción más genérica y menos adaptativa.

Sin embargo, en contra de esto, hay problemas de privacidad de datos y los usuarios también expresan preocupación sobre el uso de su información privada. Hay un equilibrio delicado que debe mantenerse aquí y, por supuesto, hay una cantidad cada vez mayor de legislación para controlar el uso ético de la inteligencia artificial en la vida pública y privada.

¿Cuáles son algunas consideraciones éticas detrás de la creación de chatbots?

Una de las principales consideraciones éticas al crear chatbots es si refuerzan los estereotipos de género. Tradicionalmente, las mujeres han asumido roles de asistente en el lugar de trabajo, mientras que los hombres han asumido roles de liderazgo. Implementar un chatbot con una personalidad femenina podría reforzar tales estereotipos de género.

Otra cuestión ética importante es si los chatbots deben abrazar los valores humanos y comportarse de una manera que inspire confianza. Esto se conoce como el problema de alineación. Los chatbots deben diseñarse para que eviten violar los derechos humanos y crear sesgos, y sus decisiones deben ser transparentes para los usuarios humanos.

Además, como se mencionó anteriormente, los chatbots deben respetar la privacidad y las leyes de protección de datos de los usuarios. Hay mucha investigación y esfuerzo dedicado actualmente a estas consideraciones éticas.

En un mundo que se centra en chatbots que hablan inglés, ¿cuáles son algunos de los desafíos detrás del diseño de chatbots multilingües e internacionales?

Todo depende de la disponibilidad de recursos lingüísticos como modelos de lenguaje y, para sistemas basados en voz, motores de reconocimiento de habla y síntesis de habla. Esto no es un problema para lenguas ampliamente habladas, pero es difícil para lenguas con recursos limitados que pueden ser habladas por un gran número de personas y donde hay una necesidad definida de los servicios de un chatbot. Una posible solución es utilizar el aprendizaje de transferencia de un modelo preentrenado en un lenguaje como el inglés y ajustarlo con datos del lenguaje de recursos limitados.

La mayoría de las aplicaciones que has diseñado utilizan software de código abierto, ¿cuáles son algunas de las mejores herramientas de código abierto disponibles?

El uso de software de código abierto fue un requisito de las agencias que financiaron nuestros proyectos.

Hemos utilizado Rasa en nuestros proyectos, ya que es de código abierto, pero también muy poderoso, ya que aprovecha los últimos desarrollos en tecnologías de inteligencia artificial conversacional. Además de Rasa, hay varios productos de software de inteligencia artificial conversacional de código abierto excelentes, incluyendo: Botpress, Microsoft Bot Framework, OpenDialog y DeepPavlov, por mencionar solo algunos.

Participarás en la próxima Cumbre sobre el Futuro de los Chatbots y la Inteligencia Artificial Conversacional organizada por Group futurista, ¿de qué hablarás?

En mi charla, compararé los enfoques tradicionales para el desarrollo de chatbots basados en las mejores prácticas, conocidas como diseño de conversación, con nuevos enfoques basados en grandes modelos de lenguaje como ChatGPT. Cubriré los pros y los contras de cada enfoque y argumentaré que, aunque los enfoques basados en grandes modelos de lenguaje ofrecen mucho potencial para el futuro desarrollo de chatbots, todavía hay muchos problemas con el uso no controlado de grandes modelos de lenguaje, especialmente en áreas como la atención médica y los negocios, por lo que todavía hay necesidad de diseñadores de conversación que puedan garantizar una inteligencia artificial conversacional explicable, transparente y ética.

Gracias por la excelente entrevista, los lectores que deseen escuchar a Michael McTear hablar deben asistir a la Cumbre sobre el Futuro de los Chatbots y la Inteligencia Artificial Conversacional organizada por Group futurista.