Performance Analysis of Deep Learning Models for On-Device AI

COVID-19에 따른 사람들의 호흡기 질환에 대한 관심도의 증가로 다양한 Artificial Intelligence (AI) 기반 질병 탐지 연구가 진행되었다. AI 기반 질병 탐지 기술은 청진기를 통해 측정되는 폐 호흡음을 통해 질병 상태를 분류한다. 기존 AI 기반 질병 탐지 기술은 높은 정확도와 빠른 추론 결과를 보여주기 위해 컴퓨팅 리소스가 풍부한 서버를 활용한다. 서버의 이용은 폐 호흡음과 같은 여러 정보가 네트워크를 통해 전달되어야 한다. 네트워크를 통한 정보 전달에 따른 개인정보의 문제가 발생할 수 있다. 이러한 문제를 해결하기 위해 기기 자체에서 AI 모델이 동작하여 결과를 보여주는 온디바이스 AI가 주목받고 있다. 온디바이스 AI는 내부에서 데이터를 수집 및 처리하여 개인정보 문제가 적다. 온디바이스 AI에 다양한 딥러닝 모델이 적용되어 활용될 수 있지만 리소스 부족으로 인한 성능 저하로 적절한 모델이 선택되어야 한다. 본 논문은 모델을 서버와 온디바이스에서 실행하였을 때 질병 분류 성능과 탐지 성능을 분석하고 평가한다. 실험 결과 딥러닝 모델은 서버에서 동작하는 것과 비교하여 온디바이스에서 동작할 때 성능 저하가 발생하는 것을 확인하였다.