트랜스포머 인코더를 활용한 음절 단위 경량화 형태소 분석기 (Syllable-Level Lightweight Korean POS Tagger using Transformer Encoder)

서지정보

· 발행기관 : 한국정보처리학회
· 수록지 정보 : 정보처리학회 논문지 / 13권 / 10호 / 553 ~ 558페이지
· 저자명 : 민수영, 고영중

초록

형태소 분석은 의미를 가지거나 문법적 기능을 하는 언어의 최소 단위인 형태소를 분리하고, 각 형태소의 품사를 결정하는 작업으로, 개체명인식, 의존구문 분석 등과 같은 자연어 처리 작업에서 중요한 역할을 한다. 현대 자연어처리의 많은 부분은 딥러닝 기반 언어 모델에 의존하고있으며, 딥러닝 기반 한국어 형태소 분석은 크게 시퀀스-투-시퀀스 방식과 순차적 레이블링 방식으로 나뉜다. 본 연구에서는 트랜스포머 인코더를활용한 순차적 레이블링 방식으로 음절 단위 품사 태깅을 수행한 후, 기분석 사전을 통해 형태소 복원 및 품사 태깅을 진행하는 형태소 분석 방식을제안한다. 또한, CBOW 방식을 사용하여 음절 단위 임베딩을 낮은 차원으로 추출함으로써 파라미터 수를 줄인 경량화 형태소 분석기 모델을 설계하였다. 제안된 모델은 낮은 파라미터 수와 빠른 추론 속도를 통해 자원이 제한된 환경에서도 효율적으로 활용될 수 있다.

영어초록

Morphological analysis involves segmenting morphemes, the smallest units of meaning or grammatical function in a language, andassigning part-of-speech tags to each morpheme. It plays a critical role in various natural language processing tasks, such as namedentity recognition and dependency parsing. Much of modern natural language processing relies on deep learning-based language models,and Korean morphological analysis can be broadly categorized into sequence-to-sequence methods and sequential labeling methods. Thisstudy proposes a morphological analysis approach using the transformer encoder for sequential labeling to perform syllable-levelpart-of-speech tagging, followed by morpheme restoration and tagging through a pre-analyzed dictionary. Additionally, the CBOW methodwas used to extract syllable-level embeddings in lower dimensions, designing a lightweight morphological analyzer model with reducedparameters. The proposed model achieves fast inference speed and low parameter usage, making it efficient for use in resource-constrainedenvironments.

참고자료

· 없음