코렌트로피 학습 알고리듬을 위한 오차분산 기반 커널 사이즈 조절 (Kernel Size Adjustment Based on Error Variance for Correntropy Learning Algorithms)

서지정보

· 발행기관 : 한국통신학회
· 수록지 정보 : 한국통신학회논문지 / 46권 / 2호 / 225 ~ 230페이지
· 저자명 : 김남용

초록

정보이론적 학습법의 한 성능기준인 MCC (maximum correntropy criterion)은 기울기에서 항상 커널 사이즈제곱의 역수를 지니며 이것이 MCC 기반 학습 알고리듬을 불안정하게 만든다. 최근 커널 사이즈 제곱의 역수를제거한 기울기에 커널 사이즈를 조절하는 방법들이 연구되었다. 그러나 충격성 잡음을 극복하고자 도입한 최소 오차 샘플 추출 과정이 커널 사이즈를 수렴 후 0이 되게 만들어 가중치 갱신은 멈추게 된다. 이 논문에서는 이 최소 오차 샘플 추출 과정을 없애고 평균 및 평탄화 과정을 거친 오차 절대값을 커널 사이즈로 계산하는 방법을 제안하였다. 제안한 방식은 적절히 조절되는 커널 사이즈로 가중치 갱신을 지속하며 기존 방식보다 더 빠른 수렴속도에 약 2 dB이상의 정상상태 MSE 향상과 0에 더 집중된 오차 분포 성능을 나타냈다.

영어초록

The MCC (maximization of correntropy criterion) as one of ITL (information theoretic learning) criteria, has the inverse of kernel size squared in its slope for maximization, and this term causes the system instability.
Recently, studies for adaptively adjusting the kernel size of the slope with the inverse of kernel size squared being removed. In those studies, however, the process of minimum error sample extraction employed for impulsive noise robustness leads the kernel size to zero after convergence, so that the weight adjustment cannot continue. In this paper it is proposed that without the minimum error sample extraction, an averaging and smoothing process on the absolute values of a block of error samples can create an appropriate kernel size. In the experiment, the proposed algorithm continues its weight adjustment even after convergence and yields enhanced learning performance by about 2 dB of steady state MSE with faster convergence speed compared to the conventional algorithm.

참고자료

· 없음