딥러닝 모형을 사용한 한국어 음성인식 (Korean speech recognition using deep learning)

서지정보

· 발행기관 : 한국통계학회
· 수록지 정보 : 응용통계연구 / 32권 / 2호 / 213 ~ 227페이지
· 저자명 : 이수지, 한석진, 박세원, 이경원, 이재용

초록

본 논문에서는 베이즈 신경망을 결합한 종단 간 딥러닝 모형을 한국어 음성인식에 적용하였다. 논문에서는 종단 간 학습 모형으로 연결성 시계열 분류기(connectionist temporal classification), 주의 기제, 그리고 주의 기제에 연결성 시계열 분류기를 결합한 모형을 사용하였으며. 각 모형은 순환신경망(recurrent neural network) 혹은 합성곱신경망(convolutional neural network)을 기반으로 하였다. 추가적으로 디코딩 과정에서 빔 탐색과 유한 상태 오토마타를 활용하여 자모음 순서를 조정한 최적의 문자열을 도출하였다. 또한 베이즈 신경망을 각 종단 간 모형에 적용하여 일반적인 점 추정치와 몬테카를로 추정치를 구하였으며 이를 기존 종단 간 모형의 결괏값과 비교하였다. 최종적으로 본 논문에 제안된 모형 중에 가장 성능이 우수한 모형을 선택하여 현재 상용되고 있는 Application Programming Interface (API)들과 성능을 비교하였다. 우리말샘 온라인 사전 훈련 데이터에 한하여 비교한 결과, 제안된 모형의 word error rate (WER)와 label error rate (LER)는 각각 26.4%와 4.58%로서 76%의 WER와 29.88%의 LER 값을 보인 Google API보다 월등히 개선된 성능을 보였다.

영어초록

In this paper, we propose an end-to-end deep learning model combining Bayesian neural network with Korean speech recognition.
In the past, Korean speech recognition was a complicated task due to the excessive parameters of many intermediate steps and needs for Korean expertise knowledge.
Fortunately, Korean speech recognition becomes manageable with the aid of recent breakthroughs in ``End-to-end" model.
The end-to-end model decodes mel-frequency cepstral coefficients directly as text without any intermediate processes.
Especially, Connectionist Temporal Classification loss and Attention based model are a kind of the end-to-end.
In addition, we combine Bayesian neural network to implement the end-to-end model and obtain Monte Carlo estimates.
Finally, we carry out our experiments on the ``WorimalSam" online dictionary dataset. We obtain 4.58% Word Error Rate showing improved results compared to Google and Naver API.

참고자료

· 없음