A Study on Deep Learning-Based Temporal Segmentation of Sori-Drum Strokes through Video/Audio Information Fusion

우리 전통음악 공연에는 다양한 동작을 수반하는 장르들이 다수 포함되어 있다. 본 논문에서는 시간 축 동작 세그멘테이션(TAS: Temporal Action Segmentation) 딥러닝 모델을 통해 북소리 비디오와 오디오 특징을 융합하고, 이를 활용해 우리 전통 판소리 고수의 북 주법을 시간 축 상에서 분석하였다. 비디오의 경우 I3D(Inflated 3D ConvNet), 오디오의 경우 STFT(Short Time Fourier Transform) 특징을 ASFormer 모델로 융합하여 분석한 결과, 멀티모달 융합의 효용성을 입증하였고, 초기 단계 융합이 가장 우수한 성능을 보임을 확인하였다. 한편 이런 연속적인 멀티모달 학습데이터의 경우 오디오와 비디오의 클래스 경계가 모호하며, 정확한 동기화가 어려운 문제가 발생한다. 본 논문에서는 이를 극복하기 위해 오디오 데이터의 soft label과 오디오 및 비디오 분기의 레이어 단위 교사 학습을 제안하고, 최종 단계 융합 모델에서 그 효과를 확인하였다.<br/>또한 본 논문에서는 클래스 불균형 및 카메라 촬영 방향 설정 등의 향후 멀티모달을 활용한 전통음악 분석에서 고려할 사항들을 제시하였다.