3D 애셋 관리에서의 멀티모달 기반 감성 분석을 위한 LLaVA 및 VisualBERT 기반의 감성값 대치 방법 (LLaVA and VisualBERT-based Sentiment Imputation Method for Multimodal Sentiment Analysis in 3D Asset Management)

서지정보

· 발행기관 : 한국지능정보시스템학회
· 수록지 정보 : 지능정보연구 / 30권 / 3호 / 235 ~ 251페이지
· 저자명 : 권상지, 이은서, 허지혜, 권오병

초록

3D 콘텐츠를 만드는 데 필요한 캐릭터나 배경 등의 요소를 뜻하는 3D 애셋 등 멀티모달 기반의 콘텐츠 서비스에서 감 성기반으로 검색 및 추천을 하는 경우가 많다. 그런데 검색의 대상이 되는 콘텐츠에 감성값을 완벽하게 제공하는 것은 수 동적인 작업이 필요하므로 비용 효율적이지 않다. 그러므로 멀티모달 콘텐츠 내에 감성값이 결여된 데이터의 다수 존재는 감성기반 검색 및 예측 성능의 제고를 위해서 감성값을 대치(imputation)하는 작업이 필요하다. 이에 본 연구의 목적은 멀 티모달 기반 감성분석을 위한 감성값 대치(sentiment imputation) 방법을 제안하는 것이다. 이를 위해 VisualBERT 기반의 감성값 대치 방법을 제시하였다. 또한 3D 애셋 정보의 증강을 위해 LMM(Large Multimodal Model) 방법의 하나인 LLaVA를 통해 3D 애셋 이미지로부터 감성에 관련한 정보를 텍스트 형태로 추출하여 3D 애셋의 이미지 및 설명글 정보 에 부가하였다. 실제 3D 애셋 데이터셋에 대해 감성값 대치 성능을 분석한 결과, 이미지 기반이나 텍스트 기반의 경쟁 대치 방법들보다 우수한 성능을 보였다.

영어초록

In multimodal content services, particularly those involving 3D assets, sentiment-based search and recommendation systems are increasingly prevalent. However, the comprehensive annotation of sentiment values for all content often necessitates manual intervention, which is not cost-effective. As a result, the frequent absence of sentiment annotations in multimodal datasets poses a significant challenge to the performance of sentiment-based search and prediction models. To address this issue, it becomes essential to impute missing sentiment values to enhance the efficacy of sentiment-based analyses. The primary objective of this study is to propose a novel sentiment imputation method tailored for multimodal sentiment analysis. Specifically, we introduce an imputation approach based on the VisualBERT framework. To further augment the semantic richness of 3D asset information, we leverage the Large Language-and-Vision Assistant (LLaVA), a Large Multimodal Model (LMM), to extract sentiment-related textual information from 3D asset images. This extracted information is then integrated with both the image data and the descriptive metadata of the 3D assets. Empirical evaluations conducted on real-world 3D asset datasets demonstrate that the proposed sentiment imputation method significantly outperforms existing competitive approaches that rely solely on image or text-based imputation techniques.

참고자료

· 없음