인공 신경망의 Catastrophic forgetting 현상 극복을 위한 순차적 반복 학습에 대한 연구 (A study on sequential iterative learning for overcoming catastrophic forgetting phenomenon of artificial neural network)

서지정보

· 발행기관 : 아이씨티플랫폼학회
· 수록지 정보 : Journal of Platform Technology / 6권 / 4호 / 34 ~ 40페이지
· 저자명 : 최동빈, 박용범

초록

현재 인공신경망은 단일 작업에 대해선 뛰어난 성능을 보이나, 다른 종류의 작업을 학습하면이전 학습 내용을 잊어버리는 단점이 있다. 이를 catastrophic forgetting이라고 한다. 인공신경망의활용도를 높이긴 위해선 이 현상을 극복해야 한다. catastrophic forgetting을 극복하기 위한 여러노력이 있다. 하지만 많은 노력이 있었음에도 완벽하게 catastrophic forgetting을 극복하지는못하였다. 본 논문에서는 여러 노력 중 elastic weight consolidation(EWC)에 사용되는 핵심 개념을이용하여, 순차적 반복학습을 제시한다. 인공신경망 학습에 많이 쓰이는 MNIST를 확장한 EMNIST데이터 셋을 이용하여 catastrophic forgetting 현상을 재현하고 이를 순차적 반복학습을 통해극복하는 실험을 진행하였으며, 그 결과 모든 작업에 대해서 학습이 가능하였다.

영어초록

Currently, artificial neural networks perform well for a single task, but NN have the problem offorgetting previous learning by learning other kinds of tasks. This is called catastrophic forgetting. Touse of artificial neural networks in general purpose this should be solved. There are many efforts toovercome catastrophic forgetting. However, even though there was a lot of effort, it did not completelyovercome the catastrophic forgetting. In this paper, we propose sequential iterative learning usingcore concepts used in elastic weight consolidation (EWC). The experiment was performed to reproducecatastrophic forgetting phenomenon using EMNIST data set which extended MNIST, which is widelyused for artificial neural network learning, and overcome it through sequential iterative learning.

참고자료

· 없음