이진화된 컨벌루션 신경망을 위한 낮은 복잡도의 추론 가속 프로세서 (Low-Complexity Inference Accelerator for Binarized Convolutional Neural Networks)

서지정보

· 발행기관 : 대한전자공학회
· 수록지 정보 : 전자공학회논문지 / 57권 / 1호 / 53 ~ 60페이지
· 저자명 : 최경찬, 신지훈, 김태환

초록

본 논문은 이진화된 컨벌루션 신경망의 추론을 가속하는 낮은 복잡도의 프로세서를 제안한다. 제안하는 프로세서에서는 전체 신경망을 컨벌루션, 이진화, 풀링으로 이루어진 블록 단위로 통합적으로 처리하고, 각 블록의 입출력은 모두 이진화되어, 블록의 내부 결과물을 임시 저장하기 위한 추가적인 버퍼를 제거하였다. 또한 1×1 컨벌루션을 기반으로 임의의 컨벌루션을 분해하여 처리하고 완전 연결 레이어에서의 행렬 곱도 같은 방식으로 처리한다. 제안하는 프로세서는 완전 합성 가능한 형태의 Softcore로 제작되었고, 이를 Cyclone V FPGA에서 구현한 결과, 1.05 K의 Adaptive Logic Module과 2304 Kbit의 메모리만으로 구현되었으며 최대 25.8 GOP/s의 속도를 보인다.

영어초록

This paper proposes a low-complexity processor that accelerates the inference of the binarized convolutional neural networks. The proposed processor performs overall inference by the block, whose processing steps are convolution, binarization, and pooling. Each block is formulated to have a binary input and binary output, so that additional buffers to store inter-step temporary results can be eliminated effectively. The proposed processor processes each block by decomposing it to multiple 1×1 convolutions, thereby accelerates any blocks including convolutional layer and fully-connected layer, in a consistent way. It is implemented on Cyclone V FPGA with only 1.05 K adaptive logic module (ALM) and 2304 Kbit on-chip memory, showing the complexity efficiency of 22.514 GOP/s/KALM.

참고자료

· 없음