공간 질의응답 시스템에서의 개체링킹과 딥러닝 모델을 활용한 멘션 탐지 (Entity Linking in GeoKBQA: Approaches to Mention Detection Using Deep Learning Models)

서지정보

· 발행기관 : 대한공간정보학회
· 수록지 정보 : 대한공간정보학회지 / 31권 / 4호 / 83 ~ 93페이지
· 저자명 : 최대웅, 이석용, 양종현, 유기윤

초록

최근 인공지능과 자연어 처리 기술의 급속한 발전에 따라, 사람과 기계 간의 질의응답(QA) 시스템의 중요성이 증가하고 있다. 이러한 맥락에서, 지식 베이스 질의응답(KBQA) 시스템은 사용자의 다양한 정보 요구를 충족시키는 핵심 역할을 하고 있다. KBQA 시스템은 지식 베이스(knowledge base)에 저장된 정보를 기반으로 사용자의 질문에 대한 답변을 제공하는 시스템을 의미한다. 이런 일반적인 KBQA 시스템의 파이프라인은 자연어가 입력되면 개체 링킹을 수행해 Entity를 식별 후 Knowledge Base내의 관련 entity에 연결하고 logical form을 생성한다. 그러나 KBQA의 확장 분야인 지리 정보 기반의 질의응답 시스템(GeoKBQA)은 입력된 공간 관련 질문을 개체 링킹 과정 없이 Logical Form으로 변환한다. 본 연구는 이러한 한계점을 극복하기 위해 GeoKBQA에 개체 링킹을 적용하는 새로운 방법론을 제안한다. 이를 위해 딥러닝 모델인 BERT, RoBERTa 그리고 ChatGPT를 사용하여 개체 링킹의 첫번째 과정인 멘션 탐지(mention detection)을 수행하였다. 특히, BERT와 RoBERTa 모델은 지리 질문에 특화된 멘션 탐지 작업을 위해 지리 질문으로 구성된 NLMAPS 데이터셋으로 fine-tuning을 진행하였으며, ChatGPT는 few-shot prompting 방식을 사용하여 멘션 탐지를 수행하였다. 실험 결과, fine-tuning된 BERT와 RoBERTa 모델의 F1 스코어는 각 0.96, 0.97으로 측정되었으며, ChatGPT 모델의 F1 스코어는 0.99로 확인되었다.

영어초록

With the rapid advancements in artificial intelligence and natural language processing technologies, the significance of question-answering (QA) systems between humans and machines has been on the rise. In this context, Knowledge Base Question Answering (KBQA) systems play a pivotal role in addressing diverse information needs of users. A KBQA system provides answers to user queries based on information stored in a Knowledge Base (KB). The typical pipeline of a standard KBQA system involves processing the natural language input, performing Entity linking to identify and link entities to their corresponding entries in the Knowledge Base, and subsequently generating a Logical Form. However, an extended domain of KBQA, known as Geographic Information-Based Question Answering (GeoKBQA), transforms spatially related queries into Logical Forms without the process of Entity linking. This research proposes a novel methodology to incorporate Entity linking in GeoKBQA to overcome such limitations. For this endeavor, deep learning models namely BERT, RoBERTa, and ChatGPT were utilized to carry out the initial process of Entity linking, which is Mention Detection (MD). Specifically, the BERT and RoBERTa models were fine-tuned with the NLMAPS dataset, comprised of geographic queries, for the specialized MD task concerning geographic inquiries. Conversely, ChatGPT employed a Few-shot prompting approach to perform MD. Experimental results indicated that the fine-tuned BERT and RoBERTa models achieved an F1 score of 0.96 and 0.97, while the ChatGPT model recorded an F1 score of 0.99.

참고자료

· 없음