단일 모달리티 기반 백도어 공격을 통한 멀티모달 AI 모델 보안 취약성 분석 (Analysis of Security Vulnerabilities of Multi-modal AI Models via Uni-Modality Backdoor Attacks)

서지정보

· 발행기관 : 한국정보보호학회
· 수록지 정보 : 정보보호학회논문지 / 35권 / 3호 / 585 ~ 599페이지
· 저자명 : 이채린, 나현식, 최대선

초록

본 연구는 멀티모달 AI 모델의 보안 취약성을 분석하고 BLIP VQA 모델을 대상으로 단일 모달 백도어 공격의 효과를 실증적으로 평가하였다. 기존 연구와 달리 이미지 모달리티만 조작하는 백도어 공격도 성공할 수 있음을 입증하였으며 사전 학습에 사용되지 않은 데이터셋(VQAv2)으로 모델을 파인튜닝하더라도 백도어가 유지될 수 있음을 확인하였다. Poisoning Rate을 0.1%부터 10%까지 달리하여 실험한 결과, 극히 적은 양의 백도어 데이터만으로도 높은 백도어 성공률(BSR)을 달성할 수 있었으며 동시에 Clean Accuracy(CA)의 저하를 최소화하면서 공격 효과를 유지할 수 있음을 확인하였다. 또한, 정답 유형(Answer Type)에 따른 백도어 공격 영향을 분석한 결과, Binary 유형은 모든 Poisoning Rate에서 99% 이상의 BSR을 기록하여 백도어 공격에 가장 높은 취약성을 보였으며, Other 유형은 BSR이 1% 이하에서는 85.3%~96.2%로 낮게 유지되고 3% 이상에서만 99%에 근접하여 상대적으로 높은 공격 저항성을 보였다. 이를 통해 AI 공급망에서 파운데이션 모델의 백도어 공격 취약성을 경고하고 멀티모달 AI 모델에 대한 탐지 및 방어 기법 연구의 필요성을 강조한다.

영어초록

This study analyzes the security vulnerabilities of multimodal AI models and empirically evaluates the effectiveness of unimodal backdoor attacks on the BLIP VQA model. Unlike previous work, we demonstrate that backdoor attacks manipulating only the image modality can still succeed. We also show that backdoors can persist even when the model is fine-tuned on an unseen dataset (VQAv2). By varying the poisoning rate from 0.1% to 10%, we find that a high Backdoor Success Rate (BSR) can be achieved with minimal poisoned data, while maintaining high Clean Accuracy (CA). Furthermore, our analysis on the impact of answer types reveals that the Binary type is the most vulnerable, achieving over 99% BSR across all poisoning rates. In contrast, the Other type maintains a lower BSR (85.3%–96.2%) at rates below 1%, and only reaches near 99% BSR at rates above 3%, indicating greater resistance. These findings highlight the backdoor vulnerabilities of foundation models in the AI supply chain and underscore the need for further research into detection and defense methods for multimodal AI systems.

참고자료

· 없음