대조 학습 기반 프로토타입 및 가우시안 혼합 모델을 이용한 노이즈 레이블 보정 (Noise Label Correction via Gaussian Mixture Model with Prototype Mixing and Contrastive Learning)

서지정보

· 발행기관 : 대한전자공학회
· 수록지 정보 : 전자공학회논문지 / 61권 / 11호 / 105 ~ 111페이지
· 저자명 : 김병일, 고병철

초록

노이즈 레이블은 딥 러닝 모델 학습 성능을 저하시키는 주요 요인 중 하나이다. 본 논문에서는 각 클래스의 신뢰할 수 있는 프로토타입과 데이터 특징 간 혼합을 활용하여 레이블 노이즈를 탐지하고 보정하는 새로운 방법을 제안한다. 먼저, 대조 학습을 통해 분류 모델을 학습하고 이미지와 프로토타입 특징 혼합을 통해 노이즈 레이블을 탐지한다. 손실이 낮은 데이터는 정보성이 높은 데이터로 간주되고 프로토타입으로 정의된다. 이후, 레이블 재할당된 프로토타입 특징을 혼합하여 노이즈 여부를 판별한다. 마지막으로, 깨끗한 레이블을 가진 데이터와 프로토타입을 사용하여 가우시안 혼합 모델을 구성하고 의사 레이블을 통해 노이즈 레이블을 보정한다. 제안된 방법은 CIFAR-10/100 데이터셋에서 기존 방법보다 우수한 성능을 보여주었다. 특히, CIFAR-100 데이터셋에서 노이즈 비율이 90%인 경우, 제안된 방법은 기존 방법보다 9% 향상된 정확도를 달성하였다.

영어초록

Label noise is one of the major factors that degrade the performance of deep learning model training. This paper proposes a novel method to detect and correct label noise by leveraging the mixing of reliable prototypes and data features for each class. First, we train a classification model using contrastive learning and detect noisy labels through the mixing of image and prototype features. Data with low loss are considered informative and are defined as prototypes. Next, we detect noise by mixing the features of prototypes with reassigned labels. Finally, we construct a Gaussian Mixture Model (GMM) using clean-labeled data and prototypes to correct noisy labels through pseudo labels. The proposed method demonstrates superior performance compared to existing methods on the CIFAR-10/100 datasets. Specifically, for the CIFAR-100 dataset with a 90% noise ratio, the proposed method achieved a 9% improvement in accuracy over existing methods.

참고자료

· 없음