이진화된 컨벌루션 신경망의 효율적인 SIMD 구현 (Efficient SIMD Implementation of Binarized Convolutional Neural Network)

서지정보

· 발행기관 : 대한전자공학회
· 수록지 정보 : 전자공학회논문지 / 55권 / 1호 / 49 ~ 56페이지
· 저자명 : 김성찬, 신지훈, 박용민, 김태환

초록

본 논문에서는 이진화된 컨벌루션 신경망 (Convolutional Neural Network; CNN)의 효율적인 구현을 제시한다. 이진화된 CNN은 기존 CNN에 이진화 과정을 추가하여 각각의 파라미터와 컨벌루션의 입력이 단일 비트로 표현될 수 있도록 변형한 것이다. 제안하는 구현에서는, 다수의 이진화된 파라미터들과 컨벌루션의 입력들을 하나의 워드로 묶어서 저장하고, CNN에서 연산 량 대부분을 차지하는 기존 컨벌루션을 이진화된 컨벌루션으로 대체하여, Bitwise XNOR-Bitcount으로 구현하였다. 이러한 SIMD 처리 방식의 구현은 CNN의 전체적인 메모리 요구량과 연산 량을 크게 감소시킬 수 있다. 실제로 LeNet-5와 ResNet-18을 대상으로 제안하는 구현은 분석 성능에서 기존의 결과와 비교하여 대등한 수준을 유지하면서도, 수행 시간을 기존 구현의 결과 대비 최대 89% 단축하고, 메모리 요구량은 기존 구현의 결과 대비 최대 95% 축소한다.

영어초록

This paper presents the efficient implementation of the binarized convolutional neural network (CNN). The binarized CNN is designed by modifying the conventional CNN so as to include the binarization processes for the parameters and the activation outputs. In the proposed implementation, multiple binarized parameters and multiple activation outputs are packed into a single word, and the inner-products are calculated by performing simple bitwise XNOR followed by bit-counting operations. Owing to such SIMD optimization, both the overall number of the computations and the memory footprint are reduced significantly. LeNet-5 and ResNet-18 are implemented based on the proposed SIMD optimization. When compared to the straightforward implementation of the non-binarized CNN model, the proposed implementation shows the significant reduction in terms of the inference time and the memory footprint, while maintaining the analysis performance.

참고자료

· 없음