Michael McTear, Professor Emérito da Universidade de Ulster – Série de Entrevistas

Michael McTear é um Professor Emérito da Universidade de Ulster. Ele tem pesquisado no campo de sistemas de diálogo falado por mais de 20 anos e é autor de vários livros, incluindo o mais recente Conversational AI: Dialogue Systems, Conversational Agents e Chatbots (Springer Link 2021). Michael proferiu palestras e tutoriais em muitas conferências e workshops acadêmicos. Atualmente, Michael está envolvido em vários projetos de pesquisa e desenvolvimento que investigam o uso de agentes conversacionais no apoio à saúde mental e no monitoramento de idosos em casa.

O que o atraiu inicialmente para a aprendizagem de máquina?

Até recentemente, eu trabalhei com abordagens baseadas em regras para IA conversacional, particularmente na área de gerenciamento de diálogo, onde a ideia básica é desenvolver regras que determinam as estratégias do agente em um diálogo. No entanto, com os recentes avanços na aprendizagem de máquina, primeiro na aprendizagem por reforço e depois na aprendizagem profunda, eu encontrei que essas abordagens podem potencialmente resolver alguns dos problemas enfrentados por métodos baseados em regras, como o problema de escalabilidade e a necessidade de escrever múltiplas regras para atender a fluxos de diálogo mais complexos.

Você tem trabalhado com voz e IA conversacional por mais de 20 anos, o que o fez se concentrar nesse campo?

Eu sempre me interessei por como a conversação funciona. Em minha tese de doutorado, estudei o desenvolvimento da competência conversacional em crianças pequenas, e esse foi o tema do meu primeiro livro. Mais tarde, eu me intriguei com a ideia de que os computadores pudessem se envolver em conversas de forma humana e, desde então, eu segui os desenvolvimentos nessa área. No início, era uma área muito menor dentro da IA, mas nos últimos anos, ela se tornou muito importante, pois foi adotada pelas grandes empresas de tecnologia como uma área de interesse estratégico para elas.

Um dos seus projetos mais recentes que você se concentrou é o ChatPAL para promover o bem-estar mental em áreas rurais. Pode discutir os desafios por trás da construção de um chatbot para usuários que podem não ser tecnologicamente sofisticados ou familiarizados com o conceito de chatbots?

Muitas pessoas estão familiarizadas com assistentes de voz em seus smartphones e como alto-falantes inteligentes, como o Amazon Alexa. Os jovens usam seus telefones principalmente para enviar mensagens de texto, então eles estão familiarizados com a ideia de interagir com um chatbot baseado em texto. No entanto, quando se trata de interagir com um chatbot especializado em um domínio específico, como no nosso projeto Chatpal, que foi desenvolvido para promover o bem-estar mental em áreas rurais, descobrimos que alguns usuários tinham expectativas sobre a tecnologia com base em suas experiências com o Alexa e outros chatbots semelhantes que excediam o que podemos oferecer com recursos mais limitados. Tentamos abordar a questão dos usuários que não eram tecnologicamente sofisticados ou familiarizados com chatbots por meio de sessões de laboratório vivas iniciais, bem como garantindo que as interações com o chatbot fossem naturais e intuitivas.

Quais são alguns dos desafios por trás da construção de chatbots que se concentram em saúde mental?

Há o perigo de que alguns usuários possam esperar mais do chatbot do que é possível com a tecnologia atual. Não queríamos nos envolver em fazer diagnósticos, pois sentimos que isso é muito arriscado e há relatos de respostas de chatbots nesses casos que poderiam ser considerados prejudiciais ou até perigosos. Fomos orientados pelos requisitos de vários comitês de ética, bem como padrões reconhecidos para o design e desenvolvimento de chatbots. Outro problema é que descobrimos que havia diferenças entre os usuários em termos de como eles usavam o chatbot. Alguns usuários desistiram rapidamente quando experimentaram problemas técnicos, enquanto outros estavam dispostos a persistir. Também havia uma diferença relacionada à idade, pois os usuários mais jovens estavam felizes em interagir com nosso chatbot baseado em texto, enquanto os usuários mais velhos estavam menos felizes com esse tipo de interface.

Alguns dos aplicativos que você trabalhou oferecem planos de ação para os usuários, como você gera motivação de usuário de forma eficaz em um aplicativo?

Para fazer isso, é necessário criar e manter perfis para cada usuário que refletem coisas como seus compromissos agendados, medicamentos, preferências gerais e o que foi discutido em conversas anteriores com o chatbot. Os usuários frequentemente afirmam que querem que o chatbot esteja ciente de suas necessidades individuais e que mantenha o registro do que foi discutido antes, em vez de fornecer uma interação mais genérica e menos adaptável.

Por outro lado, há questões de privacidade de dados e os usuários também expressam preocupações sobre o uso de suas informações privadas. Há um equilíbrio delicado a ser alcançado aqui e, claro, há uma quantidade cada vez maior de legislação para controlar o uso ético da IA na vida pública e privada.

Quais são algumas considerações éticas por trás da construção de chatbots?

Uma das principais considerações éticas ao construir chatbots é se eles reforçam estereótipos de gênero. Tradicionalmente, as mulheres ocuparam papéis de assistente no local de trabalho, enquanto os homens assumiram papéis de liderança. Implementar um chatbot com uma personalidade feminina poderia reforçar esses estereótipos de gênero.

Outra questão ética importante é se os chatbots devem adotar valores humanos e se comportar de forma que inspire confiança. Isso é conhecido como o problema de alinhamento. Os chatbots devem ser projetados para evitar violar direitos humanos e criar viés, e suas decisões devem ser transparentes para os usuários humanos.

Além disso, como mencionado anteriormente, os chatbots devem respeitar a privacidade do usuário e as leis de proteção de dados. Há muita pesquisa e esforço sendo dedicado atualmente a essas considerações éticas.

Em um mundo que se concentra em chatbots que falam inglês, quais são alguns desafios por trás do design de chatbots multilíngues e internacionais?

Isso depende da disponibilidade de recursos linguísticos, como modelos linguísticos e, para sistemas baseados em voz, motores de reconhecimento de fala e síntese de fala. Isso não é um problema para línguas amplamente faladas, mas é difícil para línguas com recursos limitados que podem ser faladas por um grande número de pessoas e onde há uma necessidade clara dos serviços de um chatbot. Uma possível solução é usar o aprendizado de transferência de um modelo pré-treinado em uma língua como o inglês e ajustá-lo com dados da língua de recursos limitados.

A maioria dos aplicativos que você projetou usa software de código aberto, quais são algumas das melhores ferramentas de código aberto por aí?

Usar software de código aberto foi um requisito das agências que financiaram nossos projetos.

Nós usamos Rasa em nossos projetos, pois é de código aberto, mas também muito poderoso, pois aproveita os últimos desenvolvimentos em tecnologias de IA conversacional. Além do Rasa, há vários produtos de software de IA conversacional de código aberto excelentes, incluindo: Botpress, Microsoft (MSFT ) Bot Framework, OpenDialog e DeepPavlov, para mencionar apenas alguns.

Você irá falar no próximo Future of Chatbots & Conversational AI Summit realizado pelo Group futurista, sobre o que você irá discutir?

Na minha palestra, eu irei comparar as abordagens tradicionais para o desenvolvimento de chatbots baseadas em práticas recomendadas, conhecidas como design de conversação, com novas abordagens baseadas em grandes modelos linguísticos, como o ChatGPT. Eu irei cobrir os prós e contras de cada abordagem e argumentar que, embora as abordagens baseadas em grandes modelos linguísticos ofereçam muito potencial para o futuro desenvolvimento de chatbots, ainda há muitos problemas com o uso não controlado de grandes modelos linguísticos, especialmente em áreas como saúde e negócios, de modo que ainda há necessidade de designers de conversação que possam garantir IA conversacional explicável, transparente e ética.

Obrigado pela grande entrevista, leitores que desejam ouvir Michael McTear falar devem participar do Future of Chatbots & Conversational AI Summit realizado pelo Group futurista.