The Impact of XAI Explanation Methods on Users’ Perceived Understanding and Trust: The Role of Regulatory Focus

AI 기술의 발전에 따라 AI 모델이 생성한 결과를 이해하기 어려워지는 ‘블랙박스(Black-Box)’ 문제가 중요한 이슈로 대두되고 있다. 이 문제를 해결하기 위한 설명 가능한 인공지능(XAI) 연구는 기술적 접근을 넘어서 사용자 중심적 접근으로 발전할 필요가 있다. 본 연구는 사용자 이해도를 높일 수 있는 XAI 설명방식을 제안하기 위해, 사용자의 개인 성향 특성인 ‘조절초점’ 개념을 도입하였다. 600명의 일반 성인을 대상으로 반사실적(Counterfactual) 설명방식과 특징 중요도(Feature Importance) 설명방식을 비교하는 실험연구를 수행한 결과, 반사실적 방식이 사용자 이해도에서 유의미하게 높은 결과를 나타냈다. 또한, 조절초점 성향이 XAI 설명에 대한 사용자 이해도에 영향을 미치는 중요한 요인임이 확인되었다. 그리고 XAI 설명에 대한 사용자 이해도는 AI 시스템에 대한 사용자 신뢰도의 향상으로 이어진다는 사실도 확인하였다. 본 연구는 사용자 중심의 XAI 연구에 개인 특성을 고려한 확장된 이론적 프레임워크를 제시함으로써, AI 사용자에게 어떤 XAI 설명방식이 가장 적합한지에 대한 실질적인 가이드라인을 제공한다.