소프트웨어 기반 임베디드 시스템용 적대적 공격 검출 시스템 (Software-based Adversarial Attack Detection System for Embedded Systems)

서지정보

· 발행기관 : 대한전자공학회
· 수록지 정보 : 전자공학회논문지 / 59권 / 7호 / 3 ~ 11페이지
· 저자명 : 주상현, 김인모, 김명선

초록

최근 DNN의 추론을 잘못된 분류가 되도록 유도하는 것을 목적으로 하는 적대적 공격은 그 종류가 매우 다양해지고 더욱 정교해지고 있다. 이러한 영향으로 DNN 모델들은 더욱 적대적 공격에 쉽게 노출되고 있다. 로봇이나 자율주행 시스템과 같은 임베디드 시스템도 예외가 아니고 적대적 공격으로 인한 오분류의 결과는 치명적인 결과로 이어질 수 있다. 하지만 임베디드 시스템은 DNN 연산 장치의 성능과 메모리 용량이 제한적이어서 적대적 공격을 빠른 속도로 판별하는 것이 매우 어렵다. 이를 극복하고자 전용 하드웨어를 개발하면 개발 비용 상승과 공격 방식과 타겟 DNN 모델의 변경에 유연하게 대처하는 것은 어렵다. 이러한 문제를 해결하기 위해서 본 연구에서는 임베디드 시스템을 위한 소프트웨어 기반 적대적 공격 검출 기법을 제안한다. 이 기법은 검출에 필요한 추가적인 메모리를 최소화하고자 검출 대상 은닉층을 선별하여 사용한다. 또한 타겟 DNN이 추론을 수행할 때 병렬적으로 검출을 진행하고 이 둘 간의 실행시간 격차를 최소화한다. 실험 결과 제안된 기법 적용 전 대비 실행시간의 차이는 최대 99.6% 감소하였고 적대적 공격 탐지 정확도를 유지하면서 메모리 사용량은 최대 83.9% 감소하였다.

영어초록

Recently, adversarial attacks aimed at inducing DNN reasoning to be misclassified are becoming more diverse and more sophisticated. Due to this trend, DNN models are more easily exposed to adversarial attacks. Embedded systems such as robots and driverless car systems are no exception, and the result of misclassification due to adversarial attacks can lead to fatal consequences. However, embedded systems have limited performance in DNN computational units and memory capacity, making it very difficult to detect adversarial attacks in a limited time. To overcome this, developing a dedicated hardware unit cause high development costs, and also the hardware is not as flexible as to cope with various kinds of attacks and any change in target DNN model. To solve this problem, in this study, we proposes a software-based adversarial attack detection mechanism for embedded systems. The mechanism selects and utilizes several hidden layers to be detected to minimize the additional memory required for adversarial detection. Additionally, when the target DNN performs inference, the adversarial detection process is in parallel and minimizes the time gap between the two. As experiments show, the execution time difference compared to before applying the proposed mechanism decreased by up to 99.6% and the memory usage decreased by up to 83.9% while maintaining attack detection accuracy.

참고자료

· 없음