역문서빈도로 가중된 부속단어를 이용한 FastText 워드 임베딩 (FastText word embedding with IDF-weighted subword information)

서지정보

· 발행기관 : 한국차세대컴퓨팅학회
· 수록지 정보 : 한국차세대컴퓨팅학회 논문지 / 15권 / 3호 / 67 ~ 77페이지
· 저자명 : 최재걸, 이상웅

초록

워드 임베딩은 자연어처리 분야에서 중요한 기술로, word2vec이 대표적인 알고리즘으로 알려져 있다. word2vec을 비롯한 사전기반의 워드 임베딩 알고리즘들은 단어의 형태소특징을 사용하지 않는 방식, 즉 단어를 하나의 개체로 사용하기 때문에 학습에 사용된 단어에 대해서만 단어 벡터를 만들 수 있는 한계를 가지고 있다. FastText는 이 문제를 해결하기 위해 제안된 알고리즘으로, 부속단어들의 조합으로 워드 임베딩을 하며, 이에 따라 학습에 사용된 적이 없는 단어에 대해서도 단어 벡터를 만들 수 있다. FastText는 형태소적 특징을 사용하기 때문에, word2vec 방식에 비하여 구문적 부분에서는 강점이 있고, 의미적 부분에서는 약점이 있다. 이 논문에서는 부속단어의 역문서빈도를 이용하여 FastText를 개선하는 방법을 제시하며, FastText가 가지고 있는 의미적 부분에서의 약점을 극복하고자 한다. 실험결과는 구문적 부분에서의 손실이 거의 없이 의미적부분에서 개선이 있었음을 보여준다. 또한 이 방법은 부속단어를 이용한 워드 임베딩에 모두 적용할 수 있다. 중의어를 구별하여 워드 임베딩하기 위해 고안된 확률적 FastText에도 역문서 빈도를 적용 실험하고, 결과를 통해 성능이 향상되었음을 확인하고자 한다.

영어초록

Word Embedding is important in natural language processing, and word2vec is known as a representative algorithm. Word2vec and many other dictionary based word-imbedding algorithms have limitations in creating word vectors only for words used in learning, because they does not use the words’ morphological feature. FastText is a proposed algorithm to solve this problem, word embedding in a combination of sub-words, thus creating a word vector for words that have never been used in learning. Because FastText uses morphological features, it has strengths in syntactic and weekness in semantic compared to word2vec. In this paper, the method of improving FastText is presented by using the inverse document frequency of the subword, and was intended to overcome the weakness in the semantic part of FastText. The results of the experiment show that there has been improvement in semantic tests with little loss in syntactic tests. this method can be applied to any word embedding algorithms using subwords. The probabilistic FastText designed to distinguish multi-sense words and was also tested with the inverse document frequency, and the results confirmed that the performance is improved.

참고자료

· 없음