Parameter Importance Analysis of a Bio-Signal-Based Crisis Recognition Model Using Explainable Artificial Intelligence

생체 신호 기반 위기 인식 모델은 의료 및 안전 분야에서 높은 분류 성능을 보이고 있으나, 모델 내부 의사결정 과정에 대한 해석 가능성이 부족하다는 한계로 인해 실제 적용에는 제약이 존재한다. 본 연구는 성능 일반화보다는 설명 가능성 확보에 초점을 두고, 설명 가능한 인공지능(eXplainable Artificial Intelligence, XAI)을 활용한 생체 신호 기반 위기 인식 모델의 파라미터 중요도 분석 프레임워크를 제안한다. 혈압, 체온, 심박수, 심전도(ECG), 피부전도도(GSR)를 입력으로 하는 인공신경망 모델을 구축하고, SHAP을 통해 전역적 중요도를 분석하였으며 LIME을 활용하여 개별 위기 샘플에 대한 국소적 판단 근거를 해석하였다. 실험 결과, 생체 신호 간 선형 상관관계는 전반적으로 낮게 나타났으나 심박수와 ECG는 위기 인식 결정 과정에서 일관되게 높은 중요도를 보였다. 이는 비선형 모델의 의사결정 구조를 이해하기 위해 XAI 기법이 필수적임을 시사한다.