Recall-Preserving Low-Bit Post-Training Quantization for Vision Transformers in Medical Imaging

본 연구는 의료영상 분류용 Vision Transformer(ViT)의 초저비트 사후 양자화(PTQ)를 다룬다. 기존 ViT PTQ 기법은 자연영상에서는 우수한 성능을 보이지만, 의료영상에서는 재현율 저하가 발생할 수 있다. 이를 완화하기 위해 본 연구에서는 GELU 이후 활성값 분포를 고려한 Shift-Aligned Twin Uniform Quantization(SA-TUQ)을 제안한다. 제안 방법은 바이어스 정렬, 임계값 최적화, 밀집 영역 비대칭 구간 할당을 결합하여 약한 활성값 보존을 강화한다. RSNA 폐렴 및 PCam 데이터셋 실험 결과, SA-TUQ는 W4A4 환경에서 기존 저비트 PTQ 기법 대비 재현율과 F1의 균형을 개선하였다. 또한 비트 시프트 기반 희소 스케일 근사를 통해 추론 효율과 분류 성능 사이의 절충 관계를 분석하였다.