MEC-based AI Computing Partition Model for Distribution Execution of AI Applications on Heterogeneous Edge Devices

엣지 디바이스들은 하루에도 수많은 데이터를 발생시키고, 그 데이터를 각 서비스 주기에 따라 수신하여 활용하고 있다. 이런 무수한 데이터를 처리하기엔 기존의 클라우드 컴퓨팅 환경으로는 쉽지 않다. 이와 달리, MEC 컴퓨팅 환경은 정보를 분산 처리하는 방법이므로 네트워크 지연을 단축시키고, 성능 병목현상 등을 해소할 수 있다. 그래서 이런 MEC 컴퓨팅 환경하에 있는 다양한 이기종 엣지 디바이스를 활용하여 딥러닝 서비스를 제공하려는 시도가 되고 있다. 하지만, 제한된 컴퓨팅 자원으로 인해 추론 서비스가 동작되지 않거나 많은 시간이 소모될 수 있다. 따라서, 본 논문에서는 이기종 엣지 디바이스 상에서 AI 응용의 분산 실행을 할 수 있는 MEC 기반의 AI 컴퓨팅 분할 모델을 제안한다. 제안된 컴퓨팅 분할 모델은 사용자가 분할 개수를 정할 수 있고, 최대한 균등한 파라미터 수를 가진다. 제안된 모델의 실험적 검증을 위해서 분할된 모델들은 마이크로 서비스 형태로 제공되어 이기종 엣지 디바이스 상에 적절하게 배포된다. 실험한 결과, 컴퓨팅 분할이 증가할수록 엣지 디바이스 자체 부하가 실행시간, CPU 점유율, 메모리 점유율 측면에서 각각 평균적으로 25.8%, 14.3%, 3.27% 감소함을 보이므로 분산 실행 방법을 활용하면 원활한 AI 응용 서비스 제공이 가능함을 입증한다.