A Study on Implementing Web-based Chatbot Services Using Large Language Models: Focusing on Routing Prompts and Category-based Approaches

본 연구는 대규모 언어 모델(LLM)을 활용한 웹 기반 챗봇 서비스 구현에서 라우팅 프롬프트와 카테고리 기반 접근 방식의 효과성을 검증하였다. Claude 3 Opus 모델을 기반으로 Flask 프레임워크를 활용하여 학과상담 챗봇을 개발하였으며, 100개 이상의 핵심 질문에 대한 답변을 10개 카테고리로 분류한 데이터로 활용하였다. 성능 평가 결과, 라우팅 프롬프트를 활용한 2단계 처리 방식은 단일 프롬프트 방식 대비 토큰 사용량이 약 1.7배 높았으나, 정확도 면에서는 유의미한 향상을 보이지 않았다. 이는 프롬프트 엔지니어링보다 양질의 데이터 확보가 더 중요할 수 있음을 시사한다. 다만 도메인 특화된 용어 처리에서는 카테고리별 컨텍스트 제공이 효과적인 것으로 나타났다. 본 연구는 LLM 기반 챗봇 개발에서 토큰 최적화와 데이터 품질의상대적 중요성을 실증적으로 분석했다는 의의가 있다. 향후 연구에서는 동적 데이터 관리 시스템과 사용자친화적 프롬프트 관리 인터페이스 개발이 필요할 것으로 제안한다.