구글의 새로운 Meena 챗봇, 거의 모든 주제에 대해 합리적이고 구체적인 대화를 할 수 있다

가상 어시스턴트인 시리, 알렉사, 구글 어시스턴트와 같은 기술은 인상적이고 유용하지만, 일반적으로 특정 명령을 받고 미리 정의된 응답을 전달하는 능력이 제한적이다. 구글과 아마존과 같은 회사들은 더 강력하고 유연한 AI 챗봇을 만들기 위한 방법을 연구하고 개발하고 있다. 디지털 트렌드에 따르면, 구글은 최근에 새로운 챗봇인 Meena의 능력을 보여주는 논문을 발표했다. 연구자들의 블로그 게시물에 따르면, Meena는 거의 모든 주제에 대해 대화를 할 수 있다.

Meena는 오픈 도메인 챗봇으로, 대화의 맥락에 따라 응답을 조정하여 더 자연스러운 응답을 제공한다. 대부분의 다른 챗봇은 클로즈드 도메인으로, 특정 주제나 태스크에 국한된 응답을 제공한다.

구글의 보고서에 따르면, Meena의 유연성은 거대한 훈련 데이터셋의 결과였다. Meena는 약 40억 개의 단어가 포함된 소셜 미디어 대화에서 추출된 텍스트 데이터셋으로 훈련되었다. 구글은 대화의 맥락을 이해하고, 사용자의 추가 입력에 따라 응답을 생성하는 능력을 개발하기 위해 노력했다. 대부분의 챗봇은 여러 차례의 대화에서 주제나 명령을 이해하고, 사용자의 추가 입력에 따라 응답을 생성하는 능력이 부족하다.

구글의 연구자들은 Meena의 알고리즘을 개발하여 대화의 맥락을 이해하고, 구체적인 응답을 생성할 수 있도록 했다. 모델은 인코더와 디코더로 구성되어 있으며, 인코더는 대화의 맥락을 처리하고, 디코더는 맥락에 따라 응답을 생성한다. 모델은 구체적인 데이터와 비구체적인 데이터로 훈련되었다. 구체적인 데이터는 이전의 발언과 밀접하게 관련된 단어이다. 구글의 포스트에 따르면:

“예를 들어, A가 ‘나는 테니스 좋아한다’라고 말하고, B가 ‘그렇군’이라고 응답하면, 그것은 비구체적인 응답이다. 하지만 B가 ‘나도 좋아해, 로저 페더러 너무 좋아!’라고 응답하면, 그것은 구체적인 응답이다. 왜냐하면 그것은 이전의 발언과 밀접하게 관련되기 때문이다.

Meena를 훈련시키기 위한 데이터셋은 7개의 턴으로 구성되어 있다. 훈련 과정에서, 모델은 2.6억 개의 매개변수를 사용하여 341GB의 텍스트 데이터를 분석했다. 이는 GPT-2 모델을 훈련시키기 위한 데이터셋보다 약 8.5배 더 크다.

구글은 Meena의 성능을 감각성과 구체성 평균(SSA) 지표를 사용하여 평가했다. SSA는 대화 엔티티가 대화가 진행됨에 따라 구체적이고 관련된 응답을 제공하는 능력을 측정하기 위한 지표이다.

SSA 점수는 모델을 테스트하기 위한 고정된 수의 프롬프트에 대한 모델의 응답을 평가하여 계산된다. 모델의 점수는 모델이 제공한 감각적이고 구체적인 응답의 비율에 따라 결정된다. 일반적인 응답은 페널티를 받는다. 구글에 따르면, 평균적으로 사람들은 SSA에서 86%의 점수를 받는다. Meena는 79%의 점수를 받았다. 또 다른 유명한 AI 모델인 판도라 봇스 에이전트는 SSA 테스트에서 약 56%의 점수를 받았다.

마이크로소프트와 아마존도 더 유연하고 자연스러운 챗봇을 개발하기 위해 노력하고 있다. 마이크로소프트는 2년 동안 멀티턴 대화에 대한 연구를 진행하고 있으며, 이를 위해 시맨틱 머신즈를 인수했다. 아마존은 최근에 알렉사 프라이즈 챌린지를 진행했으며, 참가자들은 약 20분 동안 대화할 수 있는 봇을 설계해야 했다.