Michael McTear, Giáo sư danh dự tại Đại học Ulster – Loạt phỏng vấn

Michael McTear là Giáo sư danh dự tại Đại học Ulster. Ông đã nghiên cứu trong lĩnh vực hệ thống đối thoại nói được hơn 20 năm và là tác giả của nhiều cuốn sách, bao gồm cả Trí tuệ đối thoại AI: Hệ thống đối thoại, Đại lý đối thoại và Chatbot (Springer Link 2021). Michael đã trình bày các bài giảng và hướng dẫn tại nhiều hội nghị và hội thảo học thuật. Hiện tại, Michael đang tham gia vào một số dự án nghiên cứu và phát triển để điều tra việc sử dụng các đại lý đối thoại trong hỗ trợ sức khỏe tâm thần và giám sát tại nhà cho người cao tuổi.

Điều gì đã thu hút bạn đến học máy?

Cho đến gần đây, tôi đã làm việc với các phương pháp dựa trên quy tắc để đối thoại AI, đặc biệt là trong lĩnh vực quản lý đối thoại, nơi ý tưởng cơ bản là phát triển các quy tắc để xác định chiến lược của đại lý trong một cuộc đối thoại. Tuy nhiên, với những tiến bộ gần đây trong học máy, đầu tiên là học tăng cường và sau đó là học sâu, tôi đã thấy rằng những phương pháp này có thể giải quyết một số vấn đề mà các phương pháp dựa trên quy tắc gặp phải, chẳng hạn như vấn đề về khả năng mở rộng và nhu cầu viết nhiều quy tắc để đáp ứng các luồng đối thoại phức tạp hơn.

Bạn đã làm việc về giọng nói và trí tuệ đối thoại trong hơn 20 năm, điều gì đã khiến bạn tập trung vào lĩnh vực này?

Tôi đã quan tâm đến cách thức hoạt động của cuộc trò chuyện trong một thời gian dài. Trong luận án tiến sĩ của tôi, tôi đã nghiên cứu sự phát triển của năng lực đối thoại ở trẻ em và đây là chủ đề của cuốn sách đầu tiên của tôi. Sau đó, tôi đã bị thu hút bởi ý tưởng rằng máy tính có thể tham gia vào các cuộc trò chuyện một cách giống con người và từ đó, tôi đã theo dõi các phát triển trong lĩnh vực này. Ban đầu, đây là một lĩnh vực nhỏ trong AI, nhưng trong những năm gần đây, nó đã trở nên rất quan trọng vì nó đã được các công ty công nghệ lớn áp dụng như một lĩnh vực quan tâm chiến lược.

Một trong những dự án gần đây mà bạn tập trung vào là ChatPAL để thúc đẩy sức khỏe tâm thần ở các khu vực nông thôn. Bạn có thể thảo luận về những thách thức khi xây dựng một chatbot cho người dùng không am hiểu công nghệ hoặc không quen thuộc với khái niệm chatbot?

Nhiều người đã quen thuộc với các trợ lý giọng nói trên điện thoại thông minh và loa thông minh như Amazon Alexa. Người trẻ sử dụng điện thoại của họ chủ yếu để nhắn tin và vì vậy họ đã quen với ý tưởng tương tác với một chatbot dựa trên văn bản. Tuy nhiên, khi nói đến việc tương tác với một chatbot được chuyên môn hóa cho một lĩnh vực cụ thể, như trong dự án Chatpal của chúng tôi, được phát triển để thúc đẩy sức khỏe tâm thần ở các khu vực nông thôn, chúng tôi đã thấy rằng một số người dùng có kỳ vọng về công nghệ dựa trên kinh nghiệm của họ với Alexa và các chatbot khác tương tự, vượt quá những gì chúng tôi có thể cung cấp với nguồn lực hạn chế. Chúng tôi đã cố gắng giải quyết vấn đề về người dùng không am hiểu công nghệ hoặc không quen thuộc với chatbot thông qua các phiên sống lab ban đầu cũng như đảm bảo rằng các tương tác với chatbot là tự nhiên và trực quan.

Những thách thức nào đằng sau việc xây dựng các chatbot tập trung vào sức khỏe tâm thần?

Có nguy cơ rằng một số người dùng có thể kỳ vọng nhiều hơn vào chatbot so với những gì công nghệ hiện tại có thể cung cấp. Chúng tôi không muốn tham gia vào việc chẩn đoán vì chúng tôi cảm thấy rằng đây là một rủi ro và đã có báo cáo về các phản hồi của chatbot trong những tình huống như vậy có thể được coi là có hại hoặc thậm chí nguy hiểm. Chúng tôi đã được hướng dẫn bởi các yêu cầu của các ủy ban đạo đức cũng như các tiêu chuẩn được công nhận cho thiết kế và phát triển chatbot. Một vấn đề khác là chúng tôi đã thấy rằng có sự khác biệt giữa người dùng về cách họ sử dụng chatbot. Một số người dùng từ bỏ nhanh chóng khi họ gặp phải các vấn đề kỹ thuật, trong khi những người khác sẵn sàng kiên nhẫn. Ngoài ra, cũng có sự khác biệt liên quan đến tuổi tác, vì người dùng trẻ tuổi hài lòng khi tương tác với chatbot dựa trên văn bản của chúng tôi, trong khi người dùng lớn tuổi ít hài lòng với loại giao diện này.

Một số ứng dụng mà bạn đã làm việc cung cấp kế hoạch hành động cho người dùng, làm thế nào bạn tạo ra động lực cho người dùng trong một ứng dụng?

Để làm điều này, cần phải tạo và duy trì các hồ sơ cho từng người dùng, phản ánh những thứ như các cuộc hẹn sắp tới, thuốc men, sở thích chung và những gì đã được thảo luận trong các cuộc trò chuyện trước với chatbot. Người dùng thường tuyên bố rằng họ muốn chatbot nhận thức được nhu cầu cá nhân của họ và theo dõi những gì đã được thảo luận trước đó, thay vì cung cấp một tương tác chung chung và ít thích ứng hơn.

Tuy nhiên, ngược lại, có những vấn đề về quyền riêng tư của dữ liệu và người dùng cũng thể hiện mối quan ngại về việc sử dụng thông tin riêng tư của họ. Có một sự cân bằng tinh tế cần được thực hiện ở đây và tất nhiên, có một lượng lớn các quy định để kiểm soát việc sử dụng AI một cách đạo đức trong cuộc sống công cộng và tư nhân.

Những vấn đề đạo đức nào đằng sau việc xây dựng các chatbot?

Một trong những vấn đề đạo đức chính cần xem xét khi xây dựng chatbot là liệu chúng có củng cố các khuôn mẫu giới tính hay không. Truyền thống, nữ giới đã đảm nhận các vai trò hỗ trợ trong nơi làm việc, trong khi nam giới đã đảm nhận các vai trò lãnh đạo. Việc triển khai một chatbot với nhân vật nữ có thể củng cố các khuôn mẫu giới tính như vậy.

Một vấn đề đạo đức quan trọng khác là liệu chatbot có nên chấp nhận các giá trị con người và hành động theo cách thức tạo ra niềm tin. Điều này được biết đến như là vấn đề về sự phù hợp. Chatbot nên được thiết kế để tránh vi phạm quyền con người và tạo ra sự thiên vị, và quyết định của chúng nên minh bạch với người dùng.

Cũng như đã đề cập trước đó, chatbot nên tôn trọng quyền riêng tư của người dùng và luật bảo vệ dữ liệu. Hiện tại, có rất nhiều nghiên cứu và nỗ lực được dành để giải quyết những vấn đề đạo đức này.

Trong một thế giới tập trung vào các chatbot nói tiếng Anh, những thách thức nào đằng sau việc thiết kế các chatbot đa ngôn ngữ và quốc tế?

Tất cả phụ thuộc vào sự sẵn có của các tài nguyên ngôn ngữ như mô hình ngôn ngữ và, đối với các hệ thống dựa trên giọng nói, các công cụ nhận dạng và tổng hợp giọng nói. Điều này không phải là vấn đề đối với các ngôn ngữ được nói rộng rãi, nhưng khó khăn đối với các ngôn ngữ có tài nguyên hạn chế, có thể được nói bởi một số lượng lớn người và nơi có nhu cầu về dịch vụ của một chatbot. Một giải pháp có thể là sử dụng học chuyển giao từ một mô hình được đào tạo trước trong một ngôn ngữ như tiếng Anh và tinh chỉnh nó với dữ liệu từ ngôn ngữ có tài nguyên hạn chế.

Nhiều ứng dụng mà bạn đã thiết kế sử dụng phần mềm mã nguồn mở, những công cụ mã nguồn mở tốt nhất là gì?

Sử dụng phần mềm mã nguồn mở là một yêu cầu của các cơ quan tài trợ cho các dự án của chúng tôi.

Chúng tôi đã sử dụng Rasa trong các dự án của mình vì nó là mã nguồn mở nhưng cũng rất mạnh mẽ vì nó tận dụng các công nghệ AI đối thoại mới nhất. Ngoài Rasa, còn có một số sản phẩm phần mềm AI đối thoại mã nguồn mở tuyệt vời, bao gồm Botpress, Microsoft (MSFT ) Bot Framework, OpenDialog và DeepPavlov, để kể một số.

Bạn sẽ trình bày tại Hội nghị Tương lai của Chatbot và Trí tuệ đối thoại AI sắp tới do Group futurista tổ chức, bạn sẽ thảo luận về gì?

Trong bài trình bày của tôi, tôi sẽ so sánh các phương pháp truyền thống để phát triển chatbot dựa trên các phương pháp hay nhất, được gọi là thiết kế đối thoại, với các phương pháp mới dựa trên các mô hình ngôn ngữ lớn như ChatGPT. Tôi sẽ đề cập đến ưu và nhược điểm của từng phương pháp và lập luận rằng, mặc dù các phương pháp dựa trên mô hình ngôn ngữ lớn cung cấp nhiều tiềm năng cho tương lai phát triển chatbot, vẫn còn nhiều vấn đề với việc sử dụng không kiểm soát các mô hình ngôn ngữ lớn, đặc biệt là trong các lĩnh vực như chăm sóc sức khỏe và kinh doanh, vì vậy vẫn cần có các nhà thiết kế đối thoại có thể đảm bảo AI đối thoại giải thích được, minh bạch và đạo đức.

Cảm ơn cuộc phỏng vấn tuyệt vời, độc giả muốn nghe Michael McTear nói nên tham dự Hội nghị Tương lai của Chatbot và Trí tuệ đối thoại AI do Group futurista tổ chức.