The Study on Interaction Design for AI Agent Intelligence : Building Trustworthy Interaction

사용자는 더 이상 AI 서비스가 제공하는 추천의 정확성만으로는 충분히 만족하지 않는다. 사용자는 AI 서비스가 왜 이러한 결과를 제시했는지 이해할 수 있는 설명, 상황이 달라져도 일관되게 작동하는 예측 가능성, 그리고 오류가 발생하거나 자동 수행이 이루어졌을 때 이를 수정하거나 취소할 수 있는 통제권을 함께 요구한다. 이 연구는 Amazon Alexa+ 4단계의 지능화 수준을 기준으로, AI 에이전트가 명령형 단계에서 대화형 단계를 거쳐 예측 및 대행형 단계로 발전할 때 신뢰 중심 상호작용 구조가 어떻게 달라져야 하는지를 분석하였다. 이를 위해 글로벌 기업 6개 사례의 서비스 공개 자료를 비교 분석하고, 대한민국 통계청 KOSIS 온라인쇼핑동향 지표를 사용 환경의 배경 자료로 활용하였다. 분석 결과, AI 에이전트의 지능화 수준이 높아질수록 피드백 구조는 확인 중심에서 근거 제시, 요약 설명, 수정, 취소, 복구를 포함하는 방향으로 성숙해야 하는 것으로 나타났다. 이에 따라 이 연구는 인간과 에이전트 간 신뢰 형성을 위한 다섯 가지 인터랙션 디자인 조건을 도출하였다. 이 연구는 지능화 시대의 인터랙션 디자인에서 신뢰를 기본 조건으로 다루어야 할 필요성과 적용 가능한 설계 조건을 제시한다.