마이클 맥티어, 얼스터 대학교 명예교수 – 인터뷰 시리즈

마이클 맥티어는 얼스터 대학교의 명예교수입니다. 그는 20년 이상 대화식 대화 시스템 분야에서 연구해 왔으며, 최근에는 대화형 AI: 대화 시스템, 대화 에이전트, 채트봇(스프링거 링크 2021) 등의 책을 저술했습니다. 마이클은 여러 학술 회의와 워크샵에서 키노트 연설과 강의를 했습니다. 현재 마이클은 정신 건강 지원과 노인 주택 모니터링에서 대화 에이전트를 사용하는 연구 및 개발 프로젝트에 참여하고 있습니다.

머신 러닝에 처음 관심을 갖게 된 것은 무엇인가?

최근까지 나는 규칙 기반 접근 방식을 사용하여 대화형 AI를 개발했으며, 특히 대화 관리 분야에서 에이전트의 전략을 결정하는 규칙을 개발하는 것이 기본 아이디어였습니다. 그러나 최근 머신 러닝, 특히 강화 학습과 딥 러닝의 발전으로 인해 규칙 기반 방법의 문제점인 확장성과 더 복잡한 대화 흐름을 처리하기 위한 다중 규칙 작성의 필요성을 해결할 수 있는 접근 방식이 가능해졌습니다.

20년 이상 음성 및 대화형 AI 분야에서 일해 왔습니다. 이 분야에 초점을 맞춘 이유는 무엇인가?

나는 오랫동안 대화가 어떻게 작동하는지에 관심을 가지고 있습니다.私の 박사 학위 논문에서는 어린 아이들의 대화 능력 개발을 연구했으며, 이것이私の 첫 번째 책의 주제였습니다. 나중에 나는 컴퓨터가 인간과 같은 방식으로 대화할 수 있는 아이디어에 매료되었습니다. 그 이후로 나는 이 분야의 발전에 관심을 가지고 있습니다. 처음에는 AI의 하위 분야 중 하나였지만, 최근에는 대형 기술 회사들이 전략적으로 관심을 가지는 분야가 되었습니다.

최근에 집중한 프로젝트 중 하나는 ChatPAL로, 시골 지역에서 정신 건강을 증진하는 것입니다. 기술에 익숙하지 않거나 채트봇의 개념에 익숙하지 않은 사용자를 위해 채트봇을 구축하는 어려움에 대해 논의해 주시겠습니까?

많은 사람들이 스마트폰이나 스마트 스피커에서 음성 보조를 사용하기 때문에, 채트봇과 상호작용하는 것이 익숙합니다. 그러나 특정 도메인에 특화된 채트봇과 상호작용할 때, 예를 들어 우리의 Chatpal 프로젝트는 시골 지역에서 정신 건강을 증진하기 위해 개발되었습니다. 일부 사용자는 Alexa와 같은 채트봇에서 얻은 경험에 기반한 기술에 대한 기대가 있었으며, 우리는 제한된 자원으로 제공할 수 있는 것보다 더 많은 것을 기대했습니다. 우리는 초기 리빙 랩 세션과 채트봇과의 상호작용을 자연스럽고 직관적으로 만듦으로써 기술에 익숙하지 않은 사용자와 채트봇에 익숙하지 않은 사용자의 문제를 해결하려고 했습니다.

정신 건강에 초점을 맞춘 채트봇을 구축하는 어려움은 무엇인가?

일부 사용자가 현재 기술로 가능한 것보다 더 많은 것을 기대할 수 있는 위험이 있습니다. 우리는 진단에 참여하지 않으려고 했습니다. 이는 너무 위험하며, 채트봇의 응답이 유해하거나 위험할 수 있는 상황에 대한 보고가 있었습니다. 우리는 다양한 윤리위원회와 채트봇 설계 및 개발을 위한 표준 지침에 따라 안내를 받았습니다. 또 다른 문제는 사용자 간에 채트봇 사용에 차이가 있다는 것입니다. 일부 사용자는 기술적인 문제가 발생하면 쉽게 포기하는 반면, 다른 사용자는 계속 사용하려고 했습니다. 또한 연령 관련 차이가 있었으며, 젊은 사용자는 텍스트 기반 채트봇과 상호작용하기를 원했으며, 노인 사용자는 이러한 인터페이스를 덜 선호했습니다.

당신이 작업한 일부 앱은 사용자에게 행동 계획을 제공합니다. 앱에서 사용자 동기를 효과적으로 생성하는 방법은 무엇인가?

이를 위해서는 각 사용자에 대한 프로필을 생성하여 약속, 약, 일반적인 선호도, 이전 채트봇과의 대화 내용 등을 반영해야 합니다. 사용자는 채트봇이 개인의 필요를 인식하고 이전에 논의한 내용을 기억하는 것을 원합니다.

그러나 데이터 개인 정보 보호와 관련된 문제도 있습니다. 사용자는 또한 개인 정보의 사용에 대한 우려를 표합니다. 여기에는微妙한 균형이 필요하며, 또한 AI의 공공 및 사적 사용에 대한 윤리적 사용을 제어하기 위한 법규가 점점 더 많아지고 있습니다.

채트봇을 구축하는 데 따른 윤리적 고려는 무엇인가?

채트봇을 구축할 때 주요한 윤리적 고려 사항 중 하나는 성별 고정 관념을 강화하는지 여부입니다. 전통적으로 여성은 보조적인 역할을 맡았으며, 남성은 리더십 역할을 맡았습니다. 여성 인물을 가진 채트봇을 구현하면 이러한 성별 고정 관념을 강화할 수 있습니다.

또 다른 중요한 윤리적 문제는 채트봇이 인간의 가치를 수용하고 인간이 신뢰할 수 있는 방식으로 행동하는지 여부입니다. 이것은 정렬 문제로 알려져 있습니다. 채트봇은 인간의 권리를 침해하지 않고, 편견을 피하며, 결정이 인간 사용자에게 투명하도록 설계되어야 합니다.

또한 이전에 언급한 바와 같이, 채트봇은 사용자 개인 정보와 데이터 보호 법을 존중해야 합니다. 현재 이러한 윤리적 고려에 대한 많은 연구와 노력이 진행 중입니다.

영어를 사용하는 채트봇에 초점을 맞춘 세계에서, 다국어 및 국제 채트봇을 설계하는 데 따른 어려움은 무엇인가?

언어 자원, 즉 언어 모델과 음성 기반 시스템의 경우 음성 인식 및 음성 합성 엔진의 가용성에 달려 있습니다. 이는 널리 사용되는 언어에는 문제가 없지만, 자원에 제한이 있는 언어로 говор하는 많은 사람들에게 필요할 수 있습니다. 하나의 해결책은 영어와 같은 언어로 사전 훈련된 모델에서 전이 학습을 사용하여 저자원 언어로 미세 조정하는 것입니다.

당신이 설계한 대부분의 앱은 오픈 소스 소프트웨어를 사용합니다. 오픈 소스 도구 중 어떤 것이 가장 좋은 것입니까?

오픈 소스 소프트웨어를 사용하는 것은 우리 프로젝트를资助한 기관의 요구 사항이었습니다.

우리는 Rasa를 사용했습니다. 이는 오픈 소스이지만, 최신 대화형 AI 기술을 사용하기 때문에 매우 강력합니다. Rasa 외에도 Botpress, Microsoft (MSFT ) Bot Framework, OpenDialog, DeepPavlov 등优秀한 오픈 소스 대화형 AI 소프트웨어 제품이 있습니다.

당신은 곧 Future of Chatbots & Conversational AI Summit에서 연설할 예정입니다. 그곳에서 어떤 주제를 논의할 예정입니까?

제 발표에서는 전통적인 대화 설계 기반의 채트봇 개발 접근 방식과 ChatGPT와 같은 대규모 언어 모델을 기반으로 하는 새로운 접근 방식을 비교할 것입니다. 각 접근 방식의 장단점을 다루고, 대규모 언어 모델 기반의 접근 방식이 채트봇 개발의 미래에 많은 가능성을 제공하지만, 특히 의료 및 비즈니스와 같은 분야에서 대규모 언어 모델의 무제한 사용에는 여전히 많은 문제가 있으므로, 설명 가능하고 투명하며 윤리적인 대화형 AI를 보장할 수 있는 대화 설계자가 필요하다고 주장할 것입니다.

그레이트 인터뷰에 감사드립니다. 마이클 맥티어의 연설을 듣고 싶은 독자는 Future of Chatbots & Conversational AI Summit에 참석해야 합니다.