Implementation and Performance Evaluation of LLaMA-based Field-specific RAG Model

ChatGPT가 출시되면서 다양한 언어 모델이 발전되고 있으며, 검색 등 다양한 분야에서 활용되고 있다. 그러나, 트랜스포머(Transformer)를 활용한 챗봇 형태의 자연어 인공지능이며, 이로 인해 한계점도 있다. 대표적인 한계점으로는 환각(Hallucination)으로 거짓을 마치 진실인 듯 답변하는 것을 의미하며, 충분히 학습되지 못한 주제와 잘 알려지지 않은 분야에 대한 질의에서 주로 나타난다. 이처럼 학습 데이터의 크기와 규모가 답변에서 품질에 영향을 끼치므로, 특정 분야에서의 LLM(Large Language Model) 활용은 어렵다. 이에, 본 논문에서 문제를 해결하기 위하여 기존 LLM을 기반으로 하여, 약어 사용 및 영문 표현이 많은 무역 관련 분야 및 인공지능 분야에 대하여 특정 데이터를 학습시켜 응답을 만들어 내는 RAG(Retrieval-Augmented Generation) 시스템의 설계를 제안한다. 실제로 RAG 시스템을 활용한 답변에서 약간의 처리 속도의 저하는 존재하였지만, 학습 데이터를 통해 완성도 높은 답변이 생성되었다. 이로 인해 LLM의 단점을 보완하고 활용 가능성을 높일 수 있을 것으로 기대한다.