Optimization of a Hybrid RAG System for Korean Legal QA

법률 질의응답 시스템에는 높은 수준의 신뢰성과 정확성이 요구되며, 이를 위한 방법으로 최근 대규모 언어 모델 (LLM)을 활용한 연구가 활발히 진행되고 있다. 그러나 사전학습 기반의 LLM은 최신 판례나 세부 법령의 반영이 어려워, 사실과 다른 내용을 생성하는 이른바 ‘환각(hallucination)’ 현상이 발생할 수 있다. 이를 보완하기 위해, 외부 문서를 기반으로 응답을 생성하는 검색 증강 생성 (Retrieval-Augmented Generation, RAG) 기법이 주목받고 있다. 본 연구에서는 한국어 법률 도메인에 특화된 RAG 시스템을 구축하고자, 문서 분할, 임베딩 모델, 검색 기법을 조합하여 최적의 구조를 설계하고 성능을 분석하였다. 실험 결과 의미 기반으로 청킹된 문서를 대상으로, 한국어 법률 데이터로 파인튜닝한 E5 임베딩 모델과 BM25를 결합한 하이브리드 검색 전략을 적용했을 때 가장 우수한 성능을 보였으며, 검색 정확도와 응답의 사실성 모두에서 기존 방법을 상회하는 결과를 얻었다.