분산 환경에서 클릭률 예측을 위한 개념 변화 적응 (Concept Drift Adaptation for Click-Through Rate Prediction in a Distributed Environment)

서지정보

· 발행기관 : 한국정보과학회
· 수록지 정보 : 데이타베이스연구 / 39권 / 2호 / 17 ~ 30페이지
· 저자명 : 이종학, 김상호, 이기훈

초록

온라인 광고 시스템에서 수익을 극대화하기 위해서는 클릭률(click-through rate)을 잘 예측하는 것이 중요하다. 클릭률은 사용자에게 노출된 광고를 사용자가 클릭할 확률이다. 최근 특징 간의 저차 및 고차 상호작용을 모두 학습하기 위한 클릭률 예측 모델들(DeepFM 등)이 제안되었지만, 실시간으로 생성되는 클릭 데이터의 개념 변화(concept drift)를 고려하지 않아 모델의 예측 성능이 저하될 수 있다. 개념 변화는 시간에 따라 데이터의 통계적인 특성이 변하는 현상이다. 본 논문에서는 분산 환경에서 개념 변화에 적응할 수 있는 클릭률 예측 방법을 제안한다. 제안한 방법은 DeepFM 모델에 온라인 머신러닝(online machine learning)을 적용한다. 그리고 전문가 혼합모델(mixture of experts)를 사용해 온라인 머신러닝을 적용한 DeepFM 모델들을 앙상블한다. 전문가 혼합모델의 처리율(throughput)을 향상시키기 위해 분산 처리를 적용한다. Criteo 데이터 셋을 이용해 실험한 결과, 제안한 방법이 DeepFM 모델보다 평균 AUC가 4.6% 더 높았다. 그리고 4대의 워커 노드(worker node)로 분산 처리함으로써 처리율을 381% 향상시켰다.

영어초록

In an online advertising system, click-through rate (CTR) prediction is crucial for maximizing revenue. The CTR represents the probability of a user clicking on a displayed advertisement. Recently, CTR prediction models, such as DeepFM, have been proposed to learn both low- and high-order feature interactions. However, these models may suffer from performance degradation as they do not consider the concept drift of the click data generated in real-time. Concept drift is a phenomenon where the statistical properties of data change over time. In this paper, we propose a CTR prediction method that can adapt to the concept drift in a distributed environment. The proposed method applies online machine learning to the DeepFM model and employs a mixture of experts for the ensemble of the DeepFM models applied online machine learning. We performed distributed processing to improve throughput of the mixture of experts. The experimental results using the Criteo dataset show that the proposed method accomplishes 4.6% higher average AUC compared with the DeepFM model. Furthermore, by distributing the processing across four worker nodes, we improved throughput by 381% compared with processing on a single worker node.

참고자료

· 없음