Iterative Reasoning Framework for Large Language Models via Meta-Level Feedback

대형 언어 모델(LLM)은 복잡한 추론 과제에서 우수한 성능을 보이며, 이를 향상시키기 위한 다양한 기법이 제안되어 왔다. Chain-of-Thought는 중간 추론 단계를 통해 다중홉 추론을 유도하지만, 단일 경로의 오류 전파 한계를 가진다. Self-Consistency는 다양한 추론 경로를 생성하여 이를 완화하지만 높은 비용을 요구한다. GPT-4o, GPT-5와 같은 상용 LLM은 향상된 추론 성능에도 불구하고, 추론 과정이 주로 모델 내부에서 수행되어 이를 직접 관찰하거나 해석하기 어렵다. 본 연구는 이러한 한계를 보완하기 위해 하나의 LLM을 메타 세션과 실행 세션으로 분리한 단계적 추론 프레임워크를 제안한다. 메타 세션은 추론 상태를 점검하고 다음 단계의 목표와 방향을 결정하며, 실행 세션은 이에 따라 추론을 수행한다. 이러한 설계를 통해 추론의 안정성, 관리 가능성 및 설명 가능성을 향상시키며, 다중홉 및 인과 추론 과제에서 기존 기법 대비 우수한 성능을 달성하였다.