Technical Indicator-Based Stock Price Prediction: A Comparative Study on the Performance and Interpretability of LSTM and XGBoost

본 연구는 Apple Inc.의 일별 종가 데이터를 활용하여 딥러닝 모델 LSTM(Long Short-Term Memory)과 머신러닝 모델 XGBoost를 비교함으로써 주가 예측의 정확도와 해석 가능성을 평가하였다. 2015년부터 2022년까지의 데이터를 모델 학습에 사용하고 2023년 1월부터 3월까지의 실제 주가로 단기 예측 성능을 검증하였다. 입력 변수로 대표적인 기술적 지표들(모멘텀 Momentum, RSI(Relative Strength Index), MACD(Moving Average Convergence Divergence))과 종가(Close)를 사용하였으며, 예측 성능 비교를 위해 평균제곱오차(MSE), 평균제곱근오차(RMSE), 결정계수(R²) 및 방향성 일치율을 평가 지표로 삼았다. 실험 결과, XGBoost 모델은 MSE와 RMSE 값이 LSTM보다 낮고 R²는 더 높게 나타나 수치 예측 정확도 면에서 우수한 성능을 보였다. 반면 LSTM 모델은 단기 급격한 변동 구간에서도 장기 추세를 안정적으로 포착하는 강점을 보였다. 또한 Permutation Importance 기법을 통해 동일한 입력 지표를 사용하더라도 두 모델이 상이한 변수 활용 패턴을 보임을 확인하였다. 즉, LSTM은 모멘텀 지표에 가장 민감하게 반응한 반면 XGBoost는 MACD 지표에 크게 의존하는 것으로 나타났다. 본 연구는 단순한 예측 정확도 비교를 넘어 각 모델의 구조적 특성과 해석 가능성 측면에서의 차이를 분석함으로써 금융 분야에서 알고리즘 선택과 변수 설계 전략에 대한 실질적인 시사점을 제공한다.