Enhancing Korean Semantic Role Labeling Performance Using Large Language Models with Self-Reasoning and Self-Refinement

최근 대규모 언어 모델(LLM)은 사전 학습한 후, 추가 학습 없이도 프롬프트(prompt)에 예제를 제공하는 방식만으로 다양한 작업을 수행할 수 있게 되었다. 특히 Chain-of-Thought(CoT) 기법은 프롬프트에 문제 풀이 과정을 명시하여 수학과 같이 추론 과정이 중요한 작업에서 우수한 성능을 보여주고 있다. 본 논문에서는 자연어처리 작업 중 하나인 한국어 의미역 결정에 LLM의 자가 추론(Self-Reasoning) 및 자가 재검토(Self-Refinement) 능력을 이용하여 성능 향상을 시도하였다. In-context Learning(ICL)의 예제에 대해 LLM이 정답을 기반으로 추론 과정을 자동 생성하고, 이를 LLM이 재검토한 뒤 예제와 함께 입력으로 제공하여 추론을 유도하였다. 실험 결과, gemma-2-27b-it 모델의 경우 자가 추론 적용 시 6.12%p의 성능 향상을 보였으며, 자가 재검토 적용 시 추가적으로 0.58%p의 성능 향상을 보였다.