엔그램 사용량 조절을 통한 딥러닝 기반 Chit-chat 대화시스템의 상투적 응답 생성 제어 (Alleviation of Generic Responses by Adjusting N-gram Usage in Neural Chit-chat Dialogue Systems)

서지정보

· 발행기관 : 한국정보과학회
· 수록지 정보 : 정보과학회논문지 / 49권 / 1호 / 60 ~ 66페이지
· 저자명 : 오재영, 이원기, 방지수, 신재훈, 이종혁

초록

Chit-chat 대화시스템은 컴퓨터와 사용자 간의 자유로운 대화를 위한 시스템으로, 다양하고 흥미로운 응답을 생성하는 것을 목표로 한다. 그러나 maximum likelihood 기반의 일반적인 학습 방식에서 모델이 짧고, 별다른 의미를 내포하지 않는 상투적인(generic) 응답을 과하게 생성하여 시스템에 대한 사용자의 흥미를 떨어뜨리는 문제가 꾸준히 보고되어 왔다. 이에 최근 unlikelihood training을 통하여 고빈도로 등장하는 단어의 과다한 사용에 페널티를 줌으로써 다양한 응답을 생성하는 학습 방법이 제안되었으나, 이는 각 단어의 사용량에 따라 페널티를 줄 뿐 각 단어가 어떠한 맥락으로 사용되었는지는 고려하지 못하는 한계를 가진다. 이에 본 연구에서는 고빈도로 등장하는 엔그램(n-gram) 사용량을 조절하는 방식을 제안하였다. 제안된 방식은 엔그램 단위로 주변 맥락에 대한 정보를 이용함으로써 응답의 상투적인 정도에 따른 페널티를 보다 섬세하게 줄 수 있다는 이점을 가진다.

영어초록

Chit-chat dialogue systems, the systems for unstructured conversations between humans and computer, aim to generate meaningful and diverse responses. However, training methods based on the maximum likelihood estimation have been reported to generate too many generic responses by the model; thus, reducing the interest in these systems. Recently, a new training method using unlikelihood training was proposed to generate diverse responses by penalizing the overuse of each vocab. However, it has a limitation that it only considers the usage of a token when penalizing each word, and does not consider in what context each token is used. Therefore, we propose a method by extending this work, which is penalizing the overuse of each n-gram. This method has the advantage of using information about the surrounding context in n-gram to penalize each token.

참고자료

· 없음