Unsupervised Speech Recognition via Utterance-wise Pseudo-labeling

비지도 음성인식이란 레이블된 데이터에 의존하지않고 음성을 글로 전사하는 작업이다. 최근 등장한 보조성 자기지도 목표함수(auxiliary self-supervised objective function)의 사용은 음성인식성능을 크게 향상시킨다고 알려졌다. 그러나 그 방식은 학습데이터상의 모조 레이블(pseudo labels) 재계산을 요구하기 때문에 학습 단계가 매우 비효율적이 된다는 단점을 가진다. 본 논문에서는 학습데이터 단위가 아닌 음성발언 단위의 모조 레이블을 사용하는 새로운 objective function을 제안한다. 제안하는 objective function을 사용하여 비지도 학습기반의 음성인식을 수행하였고, 그 결과 기존 연구와 비교하여 학습 효율성 및 인식 성능 향상을 확인하였다.