전이학습을 활용한 3D 포인트 클라우드분류기의 백도어 공격 취약성 연구 (Investigating the Vulnerability of 3D Point Cloud Classifiers to Backdoor Attacks Leveraging Transfer Learning)

서지정보

· 발행기관 : 한국지능시스템학회
· 수록지 정보 : 한국지능시스템학회 논문지 / 34권 / 2호 / 160 ~ 167페이지
· 저자명 : 박희준, 정태원, 이한주, 최석환

초록

딥러닝 기술의 발전과 함께 전이학습 기반의 포인트 클라우드 분류 모델들이 등장하고 있다.
하지만, 전이학습이 백도어 공격에 취약함이 밝혀짐에 따라 전이학습 기반의 포인트 클라우드 분류 모델에 대한 백도어 공격 위험성이 대두되고 있다. 본 논문에서는 전이학습 기반의포인트 클라우드 분류 모델이 백도어 공격에 얼마나 취약한지를 실험적으로 분석한다. 구체적으로, 포인트 클라우드 분류기에 백도어를 삽입하는 사전학습과 깨끗한 데이터셋으로 미세조정하는 단계를 통해 실험을 수행한다. 미세조정 단계에서 오염되지 않은 깨끗한 데이터로 학습을 수행할 경우, 백도어 활성화를 방지할 수 있음을 확인한다. 이를 통해, 깨끗한 데이터셋을 통한 미세조정이 백도어 공격 방어에 효과적임을 시사한다.

영어초록

With the advancement of deep learning technology, transfer learning-based pointcloud classification models have emerged. However, the vulnerability of transferlearning to backdoor attacks has been highlighted, raising concerns about thesecurity risks for point cloud classification models based on transfer learning. Inthis paper, we experimentally analyze how vulnerable transfer learning-based pointcloud classification models are to backdoor attacks. Specifically, the analysismethodology involves pre-training the point cloud classifiers with backdoorinsertion, followed by fine-tuning them with a clean dataset. From the experimentalresults, it is observed that fine-tuning with a clean dataset during the fine-tuningphase can prevent the activation of the backdoor. This suggests that fine-tuningwith a clean dataset can be an effective defense mechanism against backdoorattacks

참고자료

· 없음