Data Augmentation Using Large Language Models through Textualization of Structured Data
기업, 금융기관 및 공공기관에서 관계형 데이터베이스를 활용하여 방대한 양의 정형 데이터를 축적하게 됨에 따라, 이를 효과적으로 분석하고 활용하기 위한 요구가 증대되고 있다. 이에, 최근 딥러닝 기술의 발전과 함께 이미지 및 텍스트 분석 분야에서 주목할만한 성과가 나타나면서 정형 데이터 분석에도 딥러닝을 적용하려는 시도가 활발히 진행되고 있다. 하지만 기존 연구 결과에 따르면, 정형 데이터에 대한 딥러닝 모델의 성능이 기존 머신러닝 모델의 성능을 넘어서지는 못한 것으로 보고되고 있다. 이는 딥러닝 모델이 표 형태의 데이터 특성을 충분히 고려하지 못하기 때문으로 분석된다. 이에 본 연구는 표 형태의 데이터 분석에 간접적으로 딥러닝 기법을 이용하는 방법으로, 대규모 언어 모델 기반 데이터 증강을 활용한 예측 및 분류 모델의 성능 향상 방법론을 제안한다. 즉, 표 형태의 데이터를 텍스트 형태로 변형하여 학습데이터로 활용하고, 공개된 LLM 모델을 파인튜닝 한 후 기존 텍스트 데이터와 유사한 새로운 텍스트 데이터를 생성한 다음, 새로 생성된 텍스트 데이터를 다시 표 형태의 데이터로 변형하여, 이를 기존 데이터와 결합하고 머신 러닝 모델을 학습한다. 제안 방법론을 통해 데이터 부족의 문제를 해결하고 모델의 일반화 성능을 향상시킬 수 있을 것으로 기대한다. 본 연구에서는 금융 분야의 부도율 예측 데이터를 활용한 실험을 진행하였으며, 실험 결과 제안 방법론은 기존의 데이터 증강 기법에 비해 금융 부도 예측 모델의 정확도 성능을 1.33%p 향상시켰음을 확인하였다. 본 연구는 딥러닝과 기존 머신 러닝 각각의 장점을 결합하여 딥러닝을 정형 데이터 분석에 활용하는 새로운 가능성을 제시했다는 점에서 의미가 있다.
Authors
- L. A. Kim
- Namgyu Kim (ORCID: https://orcid.org/0000-0002-7228-4562)
- Jia Fei Hong (ORCID: https://orcid.org/0009-0002-7769-9836)
Publication Details
- Journal
- Journal of Intelligence and Information Systems
- Published
- 2024-12-31
- DOI
- https://doi.org/10.13088/jiis.2024.30.4.071
- Primary Topic
- Natural Language Processing Techniques
- Type
- article
- Field-Weighted Citation Impact
- 0.00