KoBERT와 LLaMA2 모델을 이용한 역사교육 AI 챗봇 개발 (Development of an AI-based History Education Chatbot using KoBERT and LLaMA2 Models)

서지정보

· 발행기관 : 조선대학교 IT연구소
· 수록지 정보 : 정보기술융합공학논문지 / 14권 / 1호 / 1 ~ 11페이지
· 저자명 : 김 하연, 임 다희, 조 예진, 이 슬영, 이경미

초록

챗봇은 인간이 기계와 상호 작용할 수 있도록 설계된 인공지능(AI) 기반의 대화형 개체이다. 그
러나 일상 대화 말뭉치(corpus)로 사전학습된(pre-trained) 대규모 언어 모델(Large Language
Model, LLM)을 이용하는 챗봇을 교육 분야에 바로 적용하면 실제 교육 콘텐츠와 LLM 사이에 갭
이 생기게 되어 존재하지 않는 정보를 답변으로 생성하는 환각(hallucination) 현상을 겪을 수도
있다. 이 문제를 해결하기 위해 본 논문에서는 사전학습된 LLM을 이용하여 역사 문장 데이터로 미
세조정한(fine-tuning) 역사교육용 AI 챗봇을 제안한다. 제안하는 교육용 챗봇은 사용자의 질문에
바로 대답 문장을 생성하는 대신에, KoBERT를 이용하여 사용자의 질문을 카테고리로 분류하여 사
용자의 질문 의도를 먼저 파악한 후, LLaMA2를 이용하여 질문 의도에 맞는 답변 문장을 생성한
다. 또한, SBERT를 이용하여 사용자의 챗봇 대화 기록을 토대로 사용자가 학습한 내용에 의미적으
로 유사한 퀴즈를 추천하여 개인화된 평가를 할 수도 있다. 본 논문에서는 조선 왕조에 대한 역사교
육용 챗봇을 개발하여 환각 현상을 겪지 않으며 사용자의 의도에 맞게 답변함을 보여줬고, 교육과
평가, 정보가 함께 포함되는 챗봇 시스템임을 보여줬다.

영어초록

A chatbot is an artificial intelligence (AI)-based conversational agent designed to
allow humans to interact with machines. However, directly applying a chatbot that
uses a large language model (LLM) pre-trained with a corpus of daily conversations to
education may have a gap between the actual educational content and the LLM, thus
resulting in hallucinations that generate answers using non-existent information.
Hence, we propose an AI chatbot for history education that is fine-tuned with
historical sentence data using a pre-trained LLM. Instead of directly generating an
answer sentence to the user's question, the proposed educational chatbot categorizes
the question using KoBERT to understand the intention of the question. Then, it uses
LLaMA2 to generate an answer sentence that matches the identified intention.
Furthermore, the proposed chatbot uses SBERT to recommend quizzes that are
semantically similar to what the user has learned based on the user's chatbot
conversation record, enabling personalized tests. In this paper, we develop a chatbot
for history education about the Joseon Dynasty. We showed that the proposed chatbot
does not suffer from hallucinations and responds appropriately according to the user's
intention, and the chatbot includes education, tests, and information altogether.

참고자료

· 없음