Performance Improvement Using State Preloading Mechanism in Micro-batch Streaming System

오늘날 빅데이터 환경에서 상태 기반 실시간 스트리밍 처리를 위해, LSM-tree 기반의 키-값 저장소가 스트리밍 시스템의 상태 저장소로 도입되었다. 마이크로 배치 스트리밍 시스템에서는 상태를 저장하고 내결함성을 보장하기 위해 상태 저장소에 대한 주기적인 커밋 작업이 수행된다. 그러나 이 과정이 일반적으로 리모트 머신에서 수행되어 지연을 발생시킨다. 이를 해결하기 위해 본 논문에서는 상태 프리로딩 기법을 제안한다. 상태 프리로딩 기법은 체크포인팅 파일을 로컬에서 인터셉트하여 로컬 머신에 저장하고, 리모트 체크포인팅으로 인한 성능 저하의 주요 원인인 컴팩션 시 로컬 파일시스템에 있는 파일을 이용하여 빠르게 접근하도록 한다. 우리는 Apache Spark 프레임워크에 상태 프리로딩 기법을 적용하여 성능을 측정하였다. 대표적인 실험 결과로 리모트 체크포인팅을 수행했을 때와 비교한 경우 상태 프리로딩 기법의 꼬리 지연시간이 최대 약 61.71% 감소하였다.