Design Insights from Empirical Experiences in Implementing Agentic RAG Systems

Retrieval-Augmented Generation(RAG)과 Fine-tuning 기반 Slim Language Model(SLM)의 구조적 차이와 장단점, 그리고 Agentic RAG 시스템 설계 시 고려해야 할 핵심 요소를 분석하였다. 텍스트 분할 방법, 임베딩 모델 선정, LLM 및 에이전트 워크플로우의 아키텍처 선택이 전체 시스템 성능, 검색 정확도, 안정성에 미치는 영향을 살펴보았다. 또한, 무한루프, 분기 조건의 모호성, 도구 선택의 불일치 등 실제로 발생할 수 있는 문제점과 그 해결 방안도 제시하였다. 연구 결과, 자동 오류 감지 및 회복 로직의 구현, 도메인 특화 워크플로우 최적화, LLM과 임베딩 모델의 정량적 평가가 중요함을 확인하였다. 더불어 실시간 사용자 피드백 반영이 시스템의 적응성과 동적 관리에 효과적임을 제안한다. 이러한 방향들은 RAG 및 Agentic RAG 시스템의 신뢰성, 확장성, 실제 적용 가능성 향상에 중요한 연구 과제가 될 것이다.