LLaVA and VisualBERT-based Sentiment Imputation Method for Multimodal Sentiment Analysis in 3D Asset Management

3D 콘텐츠를 만드는 데 필요한 캐릭터나 배경 등의 요소를 뜻하는 3D 애셋 등 멀티모달 기반의 콘텐츠 서비스에서 감성기반으로 검색 및 추천을 하는 경우가 많다. 그런데 검색의 대상이 되는 콘텐츠에 감성값을 완벽하게 제공하는 것은 수동적인 작업이 필요하므로 비용 효율적이지 않다. 그러므로 멀티모달 콘텐츠 내에 감성값이 결여된 데이터의 다수 존재는 감성기반 검색 및 예측 성능의 제고를 위해서 감성값을 대치(imputation)하는 작업이 필요하다. 이에 본 연구의 목적은 멀티모달 기반 감성분석을 위한 감성값 대치(sentiment imputation) 방법을 제안하는 것이다. 이를 위해 VisualBERT 기반의 감성값 대치 방법을 제시하였다. 또한 3D 애셋 정보의 증강을 위해 LMM(Large Multimodal Model) 방법의 하나인 LLaVA를 통해 3D 애셋 이미지로부터 감성에 관련한 정보를 텍스트 형태로 추출하여 3D 애셋의 이미지 및 설명글 정보에 부가하였다. 실제 3D 애셋 데이터셋에 대해 감성값 대치 성능을 분석한 결과, 이미지 기반이나 텍스트 기반의 경쟁 대치 방법들보다 우수한 성능을 보였다.