감쇠 요소가 적용된 데이터 어그멘테이션을 이용한 대체 모델 학습과 적대적 데이터 생성 방법 (A Substitute Model Learning Method Using Data Augmentation with a Decay Factor and Adversarial Data Generation Using Substitute Model)

서지정보

· 발행기관 : 한국정보보호학회
· 수록지 정보 : 정보보호학회논문지 / 29권 / 6호 / 1383 ~ 1392페이지
· 저자명 : 민정기, 문종섭

초록

적대적 공격은 기계학습 분류 모델의 오분류를 유도하는 적대적 데이터를 생성하는 공격으로, 실생활에 적용된 분류 모델에 혼란을 야기하여 심각한 피해를 발생시킬 수 있다. 이러한 적대적 공격 중 블랙박스 방식의 공격은, 대상모델과 유사한 대체 모델을 학습시켜 대체 모델을 이용해 적대적 데이터를 생성하는 공격 방식이다. 이 때 사용되는야코비 행렬 기반의 데이터 어그멘테이션 기법은 합성되는 데이터의 왜곡이 심해진다는 단점이 있다. 본 논문은 기존의 데이터 어그멘테이션 방식에 존재하는 단점을 보완하기 위해 감쇠 요소를 추가한 데이터 어그멘테이션을 사용하여대체 모델을 학습시키고, 이를 이용해 적대적 데이터를 생성하는 방안을 제안한다. 실험을 통해, 기존의 연구 결과보다 공격 성공률이 최대 8.5% 가량 높음을 입증하였다.

영어초록

Adversarial attack, which geneartes adversarial data to make target model misclassify the input data, is able to confusereal life applications of classification models and cause severe damage to the classification system. An Black-box adversarialattack learns a substitute model, which have similar decision boundary to the target model, and then generates adversarialdata with the substitute model. Jacobian-based data augmentation is used to synthesize the training data to learn substitutes,but has a drawback that the data synthesized by the augmentation get distorted more and more as the training loopproceeds. We suggest data augmentation with 'decay factor' to alleviate this problem. The result shows that attack successrate of our method is higher(around 8.5%) than the existing method.

참고자료

· 없음