베이지안 변경점 모형을 이용한 토픽의 변화 탐지 (Detection of changes in topics using Bayesian change point model)

서지정보

· 발행기관 : 한국지능정보시스템학회
· 수록지 정보 : 지능정보연구 / 30권 / 1호 / 1 ~ 16페이지
· 저자명 : 박서희, 정여진, 고민희

초록

최근 다양한 매체에서 생성되는 대량의 텍스트 데이터의 양이 급격히 늘어나면서 사회, 경제, 문화 등 여러 도메인에서의 주제 변화 추이를 이해하는 것이 중요시되고 있다. 이에 따라 가장 보편적으로 사용되는 토픽모델링 기법인 Latent Dirichlet Allocation 방법을 확장하는 방식으로 토픽 발생확률의 변화를 모형에 반영하거나 주제의 진화과정을 Hidden Model로 모형화하는 방법들이 제안되었다. 하지만 이러한 방법들은 변화 시점의 수를 연구자가 제어하기 까다롭고 토픽 변화에 영향을 미치는 다른 외부변수의 효과를 모형에 반영하기 어렵다. 이에 본 연구는 특정 주제의 등장빈도가 급격히 변화하는 시점 뿐 아니라 외부 변수와의 관계가 급격히 변화하는 양상을 탐지하고 해당 시점 전후의 관계를 탐색하기 위한 모델링 프레임워크를 제안한다. 제안 프레임워크에서는 Latent Dirichlet Allocation 기법으로 생성된 주제의 빈도에 대해 Bayesian change point model을 적용하고 베이지안 모형 비교 방법에 따라 최적의 변화점 개수를 판단한다. 본 방법론은 베이지안 모형의 유연함을 통해 효과적으로 주제 변화를 감지할 수 있고 외부 변수와의 관계 변화를 해석하는데 용이 하다. 제안된 방법론을 1948년부터 2022년까지의 국회 본 회의록 데이터에 적용하여 특정 분야의 주제 변화가 급격화 되는 시점을 발견하고 해당 변화의 원인을 추론하였다. 또한, 공변량으로 숙의 민주주의 지수를 모형에 포함하여 민주주의의 성숙 정도와 여성 관련 논제가 나타나는 빈도 간의 관계를 살펴보았다. 본 연구의 결과가 다양한 분야에서의 주제 변화 및 관련 변수 변화 분석에 활용될 수 있음을 시사하며, 연구의 한계와 향후 연구 방향에 대해서 논의하였다.

영어초록

As the quantity of massive text data generated across various mediums has surged, the significance of comprehending the trends in topic evolution within domains such as society, economy, and culture has grown prominently. Consequently, techniques have been introduced to extend the prevalent topic modeling approach, Latent Dirichlet Allocation, to capture the changing probabilities of topic occurrences or model the evolution of topics using hidden Markov models. However, these approaches often present challenges in controlling the number of change points and incorporating the effects of external variables influencing topic transitions. In response, this study proposes a modeling framework to detect instances of abrupt shifts not only in the frequency of specific topic occurrences but also in the relationships with external variables, and to explore the dynamics around these transition points. In this proposed framework, a Bayesian change point model is applied to the topic frequencies generated by the Latent Dirichlet Allocation, and the optimal number of change points is determined using Bayesian model comparison methods. Leveraging the flexibility of Bayesian modeling, this methodology effectively detects topic transitions and facilitates the interpretation of shifts in relationships with external variables. The introduced methodology is applied to parliamentary session transcript data spanning from 1948 to 2022, revealing instances where topic shifts within a specific field occurred abruptly and enabling the inference of underlying causes behind such shifts. Furthermore, the outcomes of this research suggest the applicability of the findings to the analysis of topic and related variable changes across diverse fields. The study not only underscores the practical implications but also deliberates on limitations and potential directions for future research.

참고자료

· 없음