물리적 환경에서의 적대적 패치의 공격 성공률 분석 (Attack Success Rate Analysis of Adversarial Patch in Physical Environment)

서지정보

· 발행기관 : 한국정보과학회
· 수록지 정보 : 정보과학회논문지 / 50권 / 2호 / 185 ~ 195페이지
· 저자명 : 정현재, 이주빈, 마유승, 이승익

초록

적대적 패치는 물리적 환경에서의 대표적인 적대적 예제 공격으로 알려져 있다. 하지만 적대적 패치의 효과에 관한 대부분의 연구는 물리적 환경이 아닌 디지털 환경을 기반으로 공격 성공률이 강건함을 입증하였다. 본 연구는 물리적 환경에서 적대적 패치가 강건한지 조사한다. 이를 위해 패치의 생성 조건 5종과 부착 조건 3종을 도출하고, 해당 조건들의 변화에 따른 디지털 패치의 물리적 환경에서의 공격력을 검토하였다. 기본 조건으로 적대적 패치 공식 논문에 제시된 위치, 각도, 크기 변수들을 대상으로 하였다. 추가로 학습 에폭, 유도 클래스, 신경망 종류 항목을 디지털 패치 생성 조건으로 새롭게 고려하여 공격효과를 실험하였다. 실험 결과 디지털 패치의 공격력에 큰 영향을 미치는 조건은 크기였다. 디지털 패치 생성을 위한 학습 조건으로 1～2회의 적은 학습 에폭과 단순한 유도 이미지 클래스만으로도 디지털 패치는 충분한 공격력이 있었다. 그 외 조건들에 대해서는 때에 따라 일정하지 않은 공격력을 보여주었다. 결론적으로 물리적 환경에서의 디지털 패치의 공격력은 디지털 환경에서와 달리 강건하지 않음을 확인할 수 있었다.

영어초록

Adversarial patches are widely known as representative adversarial example attacks in physical environment. However, most studies on adversarial patches have demonstrated robust attack success rates based on digital environment rather than physical environment. This study investigated the robustness of adversarial patches in physical environment. To this end, 5 types of generation conditions and 3 types of attachment conditions were derived. The attack success rates of digital patches in physical environment were reviewed according to the changes in conditions. As a basic condition, location, angle, and size variables were targeted as presented in the original adversarial patch paper. Additionally, learning epoch, intent class, and neural network under simulated attack were newly considered and tested as digital patch generation conditions. As a result, the condition which greatly influenced the attack success rates of digital patches was the size. As a learning condition for digital patch generation, digital patches showed sufficient attack success rates with only one to two small learning epochs and simple intent class images. In conclusion, the attack success rate of digital patches in physical environment was not robust unlike in the digital environment.

참고자료

· 없음