심층 신경망의 출력단 활성화 함수 Softmax에 대한 클록 글리치 기반 오류 주입 공격 및 대응책 (Clock Glitch-based Fault Injection Attacks on Output Layer Activation Function Softmax of Deep Neural Network and Countermeasures)

서지정보

· 발행기관 : 국제차세대융합기술학회
· 수록지 정보 : 차세대융합기술학회논문지 / 8권 / 3호 / 647 ~ 655페이지
· 저자명 : 강효주, 이영주, 홍성우, 하재철

초록

최근 DNN(Deep Neural Network)이 다양한 분야에서 활용되는 요즘, DNN의 보안 요소를 위협하는 공격 방식들도 늘어나고 있다. 특히, DNN의 핵심 요소 중 하나인 활성화 함수는 입력 신호를 처리하고 출력을 생성하는 중요한 부분이다. 이 함수에 대한 공격은 모델의 학습 및 예측에 큰 영향을 미칠 수 있으며, 오분류 또는오작동을 유발함으로써 모델의 성능을 저하시킬 수도 있다. 본 논문에서는 이런 보안 위협에서 DNN의 활성화 함수 중 출력단에서 사용되는 Softmax에 대한 오류 주입 공격이 가능함을 실험을 통해 확인하였다. 그리고 공격에대응할 수 있는 대응책을 제안하여 실제 대응이 가능한지 MNIST 데이터셋을 이용하여 평가한다. 결과적으로 오류 주입 공격에 의해 데이터의 약 90%는 정상 동작을 하지 못함을 확인하였다. 이 결과를 바탕으로 제안한 오류주입 공격 대응책을 적용하여 실험한 결과, 모든 데이터에 대한 오분류되는 것을 방어할 수 있었다.

영어초록

Nowadays, as Deep Neural Networks (DNNs) are used in various fields, the number of attack methods that threaten the security elements of DNNs is increasing. In particular, the activation function, one of the key elements of DNN, is an important part of processing input signals and generating output. Some attacks on this function can have a significant impact on the model learning and prediction, and can also degrade the model performance by causing misclassification or malfunction. In this paper, we confirmed through experiments that a fault injection attack on Softmax, one of the activation functions of DNN, is possible. Then, we propose countermeasures to deal with the attack and evaluate whether an actual counteraction is possible using the MNIST dataset. As a result, it was confirmed that approximately 90% of the data did not operate normally due to the fault injection attack. Based on these results, we experimented that the proposed countermeasure was able to prevent misclassification of all data.

참고자료

· 없음