모델 포이즈닝 공격에 강건한 개인화 연합학습을 위한 부분 공유 알고리즘 (Robust Partial Share Federated Learning Algorithm against Model Poisoning Attack)

서지정보

· 발행기관 : 한국통신학회
· 수록지 정보 : 한국통신학회논문지 / 48권 / 11호 / 1387 ~ 1398페이지
· 저자명 : 박희원, 김미르, 권민혜

초록

엣지 디바이스 기술의 발전과 상용화로 인해 방대한 양의 분산된 데이터가 증가하고 있으며, 이와 함께 연합학습은 분산된 데이터 환경에 적합한 인공지능 학습 기술로 활발히 연구되고 있다. 연합학습은 여러 디바이스에 위치한 데이터의 노출 없이 인공지능 모델을 학습할 수 있는 기술이다. 하지만 기존 연합학습 방식은 데이터 분포의특성이 상이한 디바이스가 학습에 참여할 시 개별 데이터에 최적화된 모델을 만들 수 없다는 점과 비잔틴 공격에취약하다는 한계가 있다. 이러한 한계점들을 극복하기 위하여 본 논문에서는 새로운 부분공유 알고리즘을 제안한다. 부분공유 알고리즘은 각 디바이스의 로컬 모델을 개인화 부분과 공유 부분으로 나눈 후 학습을 진행한다. 이는 각 디바이스가 개별 데이터 특성에 최적화된 모델을 만들 수 있게 하며, 잠재적인 공격으로부터 공유 부분만을노출함으로써 공격에 강건한 모델을 생성할 수 있다. 본 논문에서 실험을 통하여 제안하는 알고리즘의 개인화 측면과 공격에 대한 강건성 측면에 대한 성능이 다른 기존 연합학습 알고리즘보다 우수함을 확인하였다.

영어초록

The exponential growth of decentralized data sources has propelled Federated Learning to the forefront of research. This approach facilitates the training of models across multiple devices without the need for direct data exchange. Nevertheless, the conventional federated learning method encounters inherent challenges when confronted with heterogeneous data distributions among clients. Furthermore, it remains susceptible to Byzantine attacks. To address these challenges, we propose a novel partial share algorithm. This algorithm trains local models by partitioning them into personalized and shared components, enabling clients to create personalized models that are tailored to their local data. Concurrently, it preserves robustness against potential attacks by exposing only the shared portion of the local model. Through an extensive series of experiments, we comprehensively evaluate the performance of the proposed algorithm in terms of personalization and robustness against attacks.

참고자료

· 없음