다층신경망의 다양한 연결구조 제안 및 분석 (Proposal and Analysis of Various Link Architectures in Multilayer Neural Network)

서지정보

· 발행기관 : 한국정보기술학회
· 수록지 정보 : 한국정보기술학회논문지 / 16권 / 4호 / 11 ~ 19페이지
· 저자명 : 김미숙, 강태원

초록

신경망은 생물학적 뇌 구조와 동작을 모사한 계산모델이다. 가장 흔하게 사용하는 신경망은 여러 개의 레이어 즉, 층으로 구성된 다층 전진전파 신경망이고 학습은 오류역전파 알고리즘을 사용한다. 기존 다층신경망의 경우 레이어가 깊어질수록 가중치 수정량의 변화에 의해 학습성능이 나빠진다. 본 논문에서는 입력신호가 신경망 전체에 고르게 전달될 수 있도록 학습이 가능하고, 인접하지 않은 레이어의 뉴런들끼리 연결이 허용되는 신경망 연결구조를 제안하고 분석한다. 분석결과, 다층신경망에 추가된 연결구조는 레이어 깊이에 따른 다층신경망의 학습속도와 무관하였다. 또한 레이어가 깊어질수록 다층신경망에 입력레이어로부터 추가 연결한 연결구조가 우수한 학습성능이 보임을 확인하였다.

영어초록

Neural networks are computational models that simulate biological brain structures and behaviors. The most commonly used neural network is a multilayer forward propagation neural network composed of several layers, ie layers, and learning uses error propagation algorithms. In the case of existing multilayer neural networks, the learning performance deteriorates due to the change in the weight modification amount as the layer becomes deeper. In this paper, we propose and analyze a neural network connection structure in which input signals can be transmitted uniformly throughout the neural network, and Neurons of non-adjacent layers are allowed to connect to each other. As a result of the analysis, the connection structure added to the multilayer neural network was not related to the learning speed of the multilayer neural network according to the layer depth. In addition, it is confirmed that the connection structure from the input layer to the multilayer neural network shows better learning performance as the layer becomes deeper.

참고자료

· 없음