User Experience Research on AI Assistant Sycophantic Feedback : The Moderating Effects of Task-Oriented and Relationship-Oriented Conversation

AI 어시스턴트의 발전과 함께 사용자에게 과도하게 맞춘 아첨 피드백(Sycophantic Feedback)이 증가하면서 사용자의 판단을 훼손하고 정서적 의존을 일으킬 수 있다는 우려가 제기되고 있다. 그러나 기술적 측면에서 주로 논의되고 있으므로 본 연구는 사용자 경험 관점에서 아첨 피드백을 분석하여 균형 잡힌 피드백 설계 방안을 찾고자 하였다. 이를 위해 AI 어시스턴트 사용 경험이 있는 참여자를 대상으로 아첨 유무와 대화 유형을 변인으로 하는 2×2 혼합 설계 실험을 진행하여 호감도, 신뢰도, 정보 수용도를 측정하였다. 연구 결과, 아첨 피드백은 사용자 경험에 유의미한 영향을 미치는 것으로 나타났으며 아첨 유무와 대화 유형 간 상호작용 효과가 나타났다. 구체적으로 과업 지향 대화에서는 아첨의 효과가 낮게, 관계 지향 대화에서는 높게 평가되었다. 이는 AI 아첨 피드백이 대화 맥락을 반영하여 설계되어야 함을 시사한다. 본 연구는 AI 아첨을 커뮤니케이션 전략으로 재해석했다는 점에서 의의가 있으며 이를 기반으로 사용자 경험을 고려한 AI 피드백 설계 연구가 지속적으로 이루어지길 기대한다.