A Server Management Chat-bot System based on Executable Template Prompting

본 논문은 MSP(Managed Service Provider)의 서버 운영 업무를 효율화하기 위해 실행형 템플릿 프롬프팅(Executable Template Prompting) 기반 서버 관리용 Chat-bot 시스템을 제안한다. MSP는 서버 유지보수를 위해 실시간으로 갱신되는 수치 기반 데이터를 지속적으로 모니터링해야 하는데, Fine-Tuned LLM과 RAG 기반 Chat-bot은 이러한 동적 데이터의 처리와 출력 구조의 일관성 유지 측면에서 한계가 있다. 이를 해결하기 위해 제안 시스템은 자연어 질의를 ETP를 통해 카테고리, 서버 지표, 시간 범위로 구성된 정형화된 JSON 형태로 변환함으로써 LLM 출력의 변동성을 최소화한다. 생성된 정형화된 출력은 답변 생성 모듈에서 SQL Query 생성 시 참조되고 서버 상태 데이터 기록 DB에서 조회된 서버 상태 데이터는 서버 상태에 대한 응답 생성에 사용된다. 300건의 관리자 질의를 대상으로 한 실험 결과, 제안 시스템은 88%의 LLM 답변 정확도와 평균 2.3초의 LLM 응답 시간의 성능을 보였다.