Hybrid Analysis Framework for Automatic ROP Gadget Discovery in SGX Enclaves

본 논문은 Intel SGX Enclave 환경에서 Return-Oriented Programming(ROP) 공격 기법의 핵심 요소인 가젯(gadget) 탐색 과 페이로드(payload) 생성을 자동화하는 하이브리드 분석 프레임워크를 제안한다. 기존 연구들은 대부분 수작업 기반으로 가 젯을 선별·조합하여 페이로드를 도출하므로 시간이 오래 걸리고, 도출된 페이로드의 재현성이 낮으며, 대규모 바이너리에는 적용이 어려웠다. 본 연구는 정적 분석 도구(ROPgadget)와 의미론적 합성 도구(ROPium)를 연계한 파이프라인 기반 프레임워 크를 설계하여, ROP 검증자가 연산 명령을 템플릿으로 입력하면 자동으로 가젯을 탐색·매핑·합성할 수 있도록 하였다. Asylo, Graphene-SGX, mbedTLS-SGX, Mystikos 등 다양한 공개 SGX 프로젝트 Enclave 바이너리들을 대상으로 한 검증 실험을 통해 평균 105.83초 이내의 실용 시간에서 연산 유효한 ROP 페이로드 생성을 확인하였다. 이를 통해 수작업 기반 페이로드 생성 대비 현저한 시간 단축과 높은 재현성을 갖춘 SGX Enclave ROP 페이로드 자동 생성이 가능함을 보였다.