A Vision-Based Real-Time Korean Sign Language-to-Korean Translation System Using a Sliding-Window OpenPose-Transformer Encoder Model

본 연구는 비전센서 입력만을 활용하여 실시간 수어 단어 인식과 자연어 문장 생성을 통합한 수어-한국어 번역 시스템을 제안한다. 수어는 손동작, 상체 움직임, 얼굴 표정이 결합된 복합적 구조로 인해 기존 제스처 인식 방식만으로는 정확한 해석에 한계가 있으며, 기존 연구 또한 착용식 장비 의존 또는 단어 수준 인식에 머무르는 경우가 많다. 이를 해결하기 위해 OpenPose 기반 HPE (Human Pose Estimation)를 통해 상체 · 손 · 얼굴 관절 정보를 추출하고, 이를 시계열 입력으로 구성하여 Transformer Encoder 기반 모델로 1,005개 수어 단어를 분류한다. 실시간 환경을 고려하여 슬라이딩 윈도우 및 단어 시퀀스 안정화를 위한 후처리 기법을 적용하고, 인식된 단어 시퀀스를 Polyglot-ko-1.3B 언어모델을 LoRA 방식으로 파인튜닝하여 자연스러운 한국어 문장으로 확장한다. 실험 결과, 제안된 시스템은 1,005개 단어 환경에서 Top-1 Accuracy 77.39%를 달성, 실시간 환경에서 안정적인 단어 시퀀스 복원과 문장 생성이 가능함을 보였다.