공개 딥러닝 라이브러리에 대한 보안 취약성 검증 (Security Vulnerability Verification for Open Deep Learning Libraries)

서지정보

· 발행기관 : 한국정보보호학회
· 수록지 정보 : 정보보호학회논문지 / 29권 / 1호 / 117 ~ 125페이지
· 저자명 : 정재한, 손태식

초록

최근 다양한 분야에서 활용중인 딥러닝은 적대적 공격 가능성의 발견으로 위험성이 제기되고 있다. 본 논문에서는딥러닝의 이미지 분류 모델에서 악의적 공격자가 생성한 적대적 샘플에 의해 분류 정확도가 낮아짐을 실험적으로 검증하였다. 대표적인 이미지 샘플인 MNIST데이터 셋을 사용하였으며, 텐서플로우와 파이토치라이브러리를 사용하여만든 오토인코더 분류 모델과 CNN(Convolution neural network)분류 모델에 적대적 샘플을 주입하여 탐지정확도를 측정한다. 적대적 샘플은 MNIST테스트 데이터 셋을 JSMA(Jacobian-based Saliency MapAttack)방법으로 생성한 방법과 FGSM(Fast Gradient Sign Method)방식으로 변형하여 생성하였으며, 분류모델에 주입하여 측정하였을 때 최소 21.82%에서 최대 39.08%만큼 탐지 정확도가 낮아짐을 검증하였다.

영어초록

Deep Learning, which is being used in various fields recently, is being threatened with Adversarial Attack. In this paper,we experimentally verify that the classification accuracy is lowered by adversarial samples generated by malicious attackersin image classification models. We used MNIST dataset and measured the detection accuracy by injecting adversarialsamples into the Autoencoder classification model and the CNN (Convolution neural network) classification model, which arecreated using the Tensorflow library and the Pytorch library. Adversarial samples were generated by transforming MNISTtest dataset with JSMA(Jacobian-based Saliency Map Attack) and FGSM(Fast Gradient Sign Method). When injected into theclassification model, detection accuracy decreased by at least 21.82% up to 39.08%.

참고자료

· 없음