임베디드 시스템에서의 객체 탐지 네트워크의 가속을 위한 중요도 탐색 필터 가지치기 기법 연구 (An Importance Search Filter Pruning Method for Accelerating Object Detection Network in Embedded Systems)

서지정보

· 발행기관 : 대한전자공학회
· 수록지 정보 : 전자공학회논문지 / 61권 / 5호 / 31 ~ 39페이지
· 저자명 : 고현준, 강 진 구, 김용우

초록

최근, 컴퓨터 기술이 발달하면서 CNN 기반의 객체 탐지 네트워크와 관련된 연구가 활발히 진행되고 있다. 하지만 많은 수의 CNN은 제한된 메모리와 연산량을 가지는 임베디드 환경에서의 추론을 어렵게 하는 원인이 된다. 이 문제의 대표적인 해결 방법으로 네트워크 가지치기 기법이 있다. 네트워크 가지치기 기법은 중복된 역할을 하는 파라미터를 제거하여 추론 시 요구되는 메모리와 연산량을 감소시켜 임베디드 보드에서의 추론을 용이하게 할 수 있다. 하지만 대부분의 가지치기 기법은 두 단계의 학습을 요구하여 많은 시간과 자원이 소모되고 가지치기에 따른 채널의 관계 변화를 반영하지 못해 최적의 경량 네트워크를 보장할 수 없다. 따라서 본 논문에서는 최적의 경량 네트워크를 얻기 위한 중요도 탐색 기법을 제안하고 가지치기의 과정을 단순화하여 한 단계의 훈련만으로 가지치기가 가능한 중요도 탐색 필터 가지치기 기법을 제안한다. 본 논문에서는 VGG-16과 ResNet-50을 백본 네트워크로 가지는 SSD 네트워크에 가지치기를 적용하고 Jetson Xavier NX에서 추론 속도를 측정하였다. ResNet-50을 이용하는 네트워크에서 실험 결과 mAP(0.5)는 가지치기 비율에 따라 0.5 %, 0.7 %, 1.0 % 감소하였지만, 추론 시간은 12.75 %, 16.03 %, 21.66 % 향상되었다. 또한 학습 시간은 다른 기법보다 최대 43.85 % 빠르며 유사한 가지치기 비율의 네트워크와 비교할 때 높은 성능을 가진다.

영어초록

In recent years, with the development of computer technology, research on CNN-based object detection networks has been actively conducted. However, a large number of CNNs can make inference difficult in embedded environments with limited memory and computation. A typical solution to this problem is network pruning. Network pruning can facilitate inference on embedded boards by reducing the amount of memory and computation required by removing redundant parameters. However, most pruning methods require two stages of training, which consumes a lot of time and resources, and cannot guarantee an optimal lightweight network because they cannot reflect the changes in channel relationships due to pruning. Therefore, this paper proposes an importance search method to obtain an optimal lightweight network, and simplifies the pruning process to propose an importance search filter pruning method that can be pruned with only one stage of training. In this paper, we apply pruning to the SSD network with VGG-16 and ResNet-50 as the backbone network, and measure the inference speed on Jetson Xavier NX. In the network using ResNet-50, the experimental results showed that mAP(0.5) decreased by 0.5%, 0.7%, and 1.0% depending on the pruning ratio, but inference time improved by 12.75%, 16.03%, and 21.66%. In addition, the learning time is up to 43.85% faster than other methods and has high performance when compared to networks with similar pruning ratios.

참고자료

· 없음