마이클 맥티어, 얼스터 대학교 명예 교수 – 인터뷰 시리즈

마이클 맥티어는 얼스터 대학교의 명예 교수입니다. 그는 20년 이상 음성 대화 시스템 분야에서 연구를 해왔으며, 최근에는 Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots (Springer Link 2021)와 같은 여러 책을 저술했습니다. 마이클은 많은 학술 회의와 워크샵에서 키노트 연설과 튜토리얼을 진행했습니다. 현재 마이클은 정신 건강 지원과 노인들의 가정 모니터링에서 대화 에이전트를 사용하는 것을 조사하는 여러 연구 및 개발 프로젝트에 참여하고 있습니다.

당신은 기계 학습에 처음으로 관심을 가지게 된 계기가 무엇입니까?

최근까지 나는 대화형 AI의 대화 관리 영역에서 규칙 기반 접근 방식을 사용해 왔으며, 기본 아이디어는 에이전트의 전략을 결정하는 규칙을 개발하는 것입니다. 그러나 최근 기계 학습, 특히 강화 학습과 深層 학습의 발전으로 인해 규칙 기반 방법의 일부 문제, 즉 확장성과 더 복잡한 대화 흐름을 처리하기 위한 다수의 규칙 작성 필요성과 같은 문제를 해결할 수 있는 잠재력을 발견했습니다.

당신은 20년 이상 음성 및 대화형 AI에 대해 연구해 왔습니다. 이 분야에 집중하게 된 이유는 무엇입니까?

나는 오랫동안 대화가 어떻게 작동하는지에 관심을 가져왔습니다.私の 박사 학위 논문에서는 어린 아이들의 대화 능력 개발을 연구했으며, 이것이私の 첫 번째 책의 주제가 되었습니다. 나중에 나는 컴퓨터가 인간과 같은 방식으로 대화할 수 있는 아이디어에 매료되었습니다. 그 이후로 나는 이 분야의 발전에 관심을 가지고 있습니다. 처음에는 AI의 하위 분야 중 하나였지만, 최근 몇 년 동안 대형 기술 회사들이 전략적으로 관심을 가져온 분야로 발전했습니다.

당신이 최근에 집중한 프로젝트 중 하나는 ChatPAL로, 농촌 지역에서 정신 건강을 증진시키기 위한 것입니다. 기술에 익숙하지 않거나 챗봇의 개념에 익숙하지 않은 사용자에게 챗봇을 구축하는 데 뒤따르는 도전 과제에 대해 논의해 주시겠습니까?

많은 사람들이 스마트폰과 스마트 스피커의 음성 조작에 익숙합니다. 젊은 사람들은 주로 문자 메시지를 사용하므로 텍스트 기반 챗봇과 상호 작용하는 데 익숙합니다. 그러나 특정 도메인에 특화된 챗봇과 상호 작용할 때, 예를 들어 우리의 Chatpal 프로젝트는 농촌 지역에서 정신 건강을 증진시키기 위해 개발되었으며, 일부 사용자는 Alexa와 같은 다른 챗봇에서 경험한 기술에 대한 기대가 우리가 제한된 자원으로 제공할 수 있는 것보다 더 높았습니다. 우리는 초기 생활 실험 세션을 통해 비기술 전문가 사용자와 챗봇과의 상호 작용이 자연스럽고 직관적이도록 문제를 해결하려고 시도했습니다.

정신 건강에 중점을 둔 챗봇을 구축하는 데 뒤따르는 도전 과제는 무엇입니까?

일부 사용자가 현재 기술로 가능한 것보다 더 많은 것을 기대할 수 있는 위험이 있습니다. 우리는 진단에 참여하지 않으려고 했습니다. 왜냐하면 이것은 너무 위험하고, 이러한 상황에서 챗봇의 응답이 유해하거나 thậm chí 위험할 수 있는 보고가 있었기 때문입니다. 우리는 다양한 윤리위원회와 챗봇 설계 및 개발을 위한 표준 지침을 따랐습니다. 또 다른 문제는 사용자 간에 챗봇을 사용하는 방식에 차이가 있다는 것입니다. 일부 사용자는 기술적인 문제가 발생하면すぐ에 포기하지만, 다른 사용자는 계속하려고 합니다. 또한 연령 관련 차이가 있으며, 젊은 사용자는 우리의 텍스트 기반 챗봇과 상호 작용하기를 원했지만, 노인 사용자는 이러한 인터페이스를 덜 원했습니다.

당신이 작업한 일부 앱은 사용자에게 행동 계획을 제공합니다. 앱에서 사용자 동기를 효과적으로 생성하는 방법은 무엇입니까?

이를 위해서는 각 사용자에 대한 프로필을 생성하고 유지해야 하며, 이는 예약된 약속, 약물, 일반적인 선호도, 이전에 챗봇과 논의한 내용 등을 반영합니다. 사용자는 챗봇이 자신의 개인적인需求을 인식하고 이전에 논의한 내용을 기억하도록 하기를 원합니다. 일반적인 상호 작용보다 더 적응 가능한 상호 작용을 제공하기를 원합니다.

그러나, 데이터 개인 정보 보호와 관련된 문제가 있습니다. 사용자는 또한 자신의 개인 정보가 사용되는 것에 대해 우려를表明합니다. 여기에는微妙한 균형이 필요하며, 또한 AI의 윤리적 사용을 제어하기 위한 법규가 점점 더 많아지고 있습니다.

챗봇을 구축하는 데 뒤따르는 윤리적 고려는 무엇입니까?

챗봇을 구축할 때 고려해야 할 주요 윤리적 고려 사항 중 하나는 챗봇이 성별 고정 관념을 강화하는지 여부입니다. 전통적으로 여성은 업무 환경에서 조수와 같은 역할을 맡았으며, 남성은 리더십 역할을 맡았습니다. 여성 인물을 가진 챗봇을 구현하면 이러한 성별 고정 관념을 강화할 수 있습니다.

또 다른 중요한 윤리적 문제는 챗봇이 인간의 가치를 수용하고 신뢰를 불러일으키는 방식으로 행동해야 하는지 여부입니다. 이것은 정렬 문제로 알려져 있습니다. 챗봇은 인간의 권리를 침해하지 않고, 편견을 만들지 않으며, 그들의 결정이 인간 사용자에게 투명하도록 설계되어야 합니다.

또한, 이전에 언급했듯이, 챗봇은 사용자의 개인 정보와 데이터 보호 법을尊重해야 합니다. 현재 이러한 윤리적 고려에 많은 연구와 노력이 투입되고 있습니다.

영어로 된 챗봇에 집중하는 세계에서, 다국어 및 국제 챗봇을 설계하는 데 뒤따르는 도전 과제는 무엇입니까?

언어 자원, 즉 언어 모델 및 음성 기반 시스템의 음성 인식 및 음성 합성 엔진의 가용성에 달려 있습니다. 널리 사용되는 언어에는 문제가 없지만, 자원이 제한된 언어로도 많은 사람이 사용하고, 챗봇의 서비스가 필요한 경우에는 어려울 수 있습니다. 하나의 가능한 해결책은 영어와 같은 언어에서 사전 훈련된 모델을 사용하여 전이 학습을 수행하고, 낮은 자원 언어의 데이터로 미세 조정을하는 것입니다.

당신이 설계한 대부분의 앱은 오픈 소스 소프트웨어를 사용합니다. 현재 가장 좋은 오픈 소스 도구는 무엇입니까?

오픈 소스 소프트웨어를 사용하는 것은 우리 프로젝트를 지원한 기관의 요구 사항이었습니다.

우리는 Rasa를 프로젝트에서 사용했으며, 오픈 소스이지만, 최신의 대화형 AI 기술을 사용하기 때문에 매우 강력합니다. Rasa 외에도 Botpress, Microsoft Bot Framework, OpenDialog, DeepPavlov와 같은 몇 가지优秀한 오픈 소스 대화형 AI 소프트웨어 제품이 있습니다.

당신은 곧 Group futurista에서 개최하는 Future of Chatbots & Conversational AI Summit에서 연설할 예정입니다. 당신은 무엇에 대해 논의할 것입니까?

私の 연설에서私は 전통적인 접근 방식과 새로운 접근 방식, 즉 대화 설계와 대형 언어 모델을 기반으로 하는 접근 방식을 비교할 것입니다. 각 접근 방식의 장단점을 다루고, 대형 언어 모델을 기반으로 하는 접근 방식이 미래의 챗봇 개발에 많은 잠재력을 제공하지만, 특히 의료 및 비즈니스와 같은 분야에서 대형 언어 모델의 무제한 사용에는 여전히 많은 문제가 있으므로, 설명 가능하고 투명하며 윤리적인 대화형 AI를 보장할 수 있는 대화 설계자가 필요하다고 주장할 것입니다.

멋진 인터뷰 감사합니다. 마이클 맥티어의 연설을 듣고 싶은 독자는 Group futurista에서 개최하는 Future of Chatbots & Conversational AI Summit에 참석해야 합니다.