Prediction of Review Helpfulness Using a Lightweight BERT-CNN Hybrid Model

본 연구는 DistilBERT, TinyBERT, ALBERT 등 경량 사전학습 언어모델을 활용하여 텍스트 임베딩과 CNN 구조를 결합하고 메타데이터를 어텐션 메커니즘으로 통합한 하이브리드 모델을 제안함으로써 리뷰 유용성 예측 성능을 향상시키고자 하였다. 성능 비교를 위해 메타 정보와 어텐션 메커니즘이 적용되지 않은 기본 BERT-CNN 모델을 기준으로 설정하고, 각 모델의 예측 성능 차이를 분석하였다. 실험 결과, 메타정보를 어텐션 기반으로 통합한 모든 모델에서 일관된 성능 향상이 관찰되었다. DistilBERT-CNN 모델은 Accuracy, Precision, Recall, F1-Score 등 주요 성능 지표에서 전반적으로 높은 수준의 값을 나타냈으며, 추론 속도 또한 BERT-CNN 대비 약 2배 가까이 빠른 성능과 처리 효율성 측면에서 상대적으로 안정적인 결과를 보였다. 한편 TinyBERT-CNN의 성능은 다른 모델에 비해 다소 낮으나 처리 속도가 빠르다는 점에서 실시간 응답이 요구되는 환경에 적합한 선택지로 고려될 수 있다. 본 연구는 경량 모델의 실용성과 어텐션 기반의 메타 통합 효과를 실증적으로 제시함으로써 자원 제약이 있는 환경에서도 적용 가능한 리뷰 유용성 예측 모델을 제안하고자 하였다.

Authors

Publication Details

Journal
Journal of Intelligence and Information Systems
Published
2025-06-30
DOI
https://doi.org/10.13088/jiis.2025.31.2.291
Primary Topic
Emotion and Mood Recognition
Type
article
Field-Weighted Citation Impact
0.00
Controls
|||
ALL TIME
JAN
FEB
MAR
APR
MAY
JUN
JUL
AUG
SEP
OCT
article

Prediction of Review Helpfulness Using a Lightweight BERT-CNN Hybrid Model

T.S. Kim, Taeho Hong
Journal of Intelligence and Information Systems
Emotion and Mood Recognition
article

Prediction of Review Helpfulness Using a Lightweight BERT-CNN Hybrid Model

T.S. Kim, Taeho Hong
article en

Abstract

본 연구는 DistilBERT, TinyBERT, ALBERT 등 경량 사전학습 언어모델을 활용하여 텍스트 임베딩과 CNN 구조를 결합하고 메타데이터를 어텐션 메커니즘으로 통합한 하이브리드 모델을 제안함으로써 리뷰 유용성 예측 성능을 향상시키고자 하였다. 성능 비교를 위해 메타 정보와 어텐션 메커니즘이 적용되지 않은 기본 BERT-CNN 모델을 기준으로 설정하고, 각 모델의 예측 성능 차이를 분석하였다. 실험 결과, 메타정보를 어텐션 기반으로 통합한 모든 모델에서 일관된 성능 향상이 관찰되었다. DistilBERT-CNN 모델은 Accuracy, Precision, Recall, F1-Score 등 주요 성능 지표에서 전반적으로 높은 수준의 값을 나타냈으며, 추론 속도 또한 BERT-CNN 대비 약 2배 가까이 빠른 성능과 처리 효율성 측면에서 상대적으로 안정적인 결과를 보였다. 한편 TinyBERT-CNN의 성능은 다른 모델에 비해 다소 낮으나 처리 속도가 빠르다는 점에서 실시간 응답이 요구되는 환경에 적합한 선택지로 고려될 수 있다. 본 연구는 경량 모델의 실용성과 어텐션 기반의 메타 통합 효과를 실증적으로 제시함으로써 자원 제약이 있는 환경에서도 적용 가능한 리뷰 유용성 예측 모델을 제안하고자 하였다.

Journal of Intelligence and Information SystemsVol. 31(2)
Openalex Percentile: Top 83%
Emotion and Mood Recognition
AI Navigator

Ask Laika to Summarize, Analyze, and Connect papers live on the map.

Summarize Papers & Methodologies

Extract key findings, datasets, and comparative methods across publications.

Benchmark Rankings & Visual Analytics

Rank top research institutions, authors, funders, topics, and journals by Field-Weighted Citation Impact (FWCI) and paper volume with instant charts.

Connect Distant Disciplines

Bridge topological clusters on the map to find hidden collaborative intersections.