Sparsification and Sparsity-Preserving PSD Correction for Cross-Layer Aware Mixed-Precision Quantization

혼합 정밀도 양자화(MPQ)는 딥러닝 모델 경량화의 핵심 기술이다. 최근 교차 계층 의존성을 고려하는 양자화 기법들은 높은 압축률을 달성했지만, 민감도 행렬의 양의 준정부호성(PSD) 문제를 해결하는 과정에서 최적해를 왜곡하고 행렬의 희소성을 파괴할 수 있는 근본적인 한계를 지닌다. 본 논문에서는 이러한 한계를 극복하기 위해 희소화 과정과 새로운 PSD 보정 기법이 포함된 새로운 MPQ 프레임워크를 제안한다. 제안하는 기법은 딥러닝 모델의 계층적 구조 특성을 반영하여 먼 레이어 간의 불필요한 상호작용을 줄이고, 희소화된 행렬 구조를 보존하면서도 최적해의 순위를 왜곡하지 않는 PSD 보정 기법을 적용하여 안정적인 최적화를 달성한다. ResNet-34와 ImageNet-1K 데이터셋을 이용한 실험 결과, 제안하는 프레임워크는 기존 방식 대비 더 적은 연산량으로 더 높은 Top-1 정확도를 달성함을 확인하였다.