A Critical Examination of Moral Enhancement Using Artificial Intelligence

본 논문은 인공지능을 활용한 도덕 향상, 즉 인공적 도덕 향상(artificial moralenhancement, AME)의 성립 조건과 한계를 검토하여 인공적 윤리 보조자(artificialethics assistant, AEA)의 적절한 역할을 규명한다. 우선 기존 AME 논의들이 제시한‘정보 제공형’, ‘소크라테스적 대화형’, ‘모듈식 대화형’ 등의 유형을 분석하여, 이들이AEA의 기능적 측면에만 주목한 채 인간-기술의 관계적이고 협력적인 측면 및 도덕적 성장 과정에서 발생하는 부정적 감정의 문제를 충분히 다루지 못했음을 지적한다. 이러한 한계를 보완하기 위해 선행 연구에서 대화를 통한 도덕적 향상의 표준형으로 제시되는 소크라테스적 산파술을 관계적 관점에서 재해석하고, AEA가 도덕 향상이라는 목적을 달성하기 위해서는 사용자에게 부정적 경험을 초래할 수도 있는 모종의 자율성이 허용될 필요가 있다고 주장한다. 다만 이러한 AEA의 능동성은 맥락에 따라 적절히 조절될 필요가 있는데, 이를 위한 실용적 기준으로서 도덕(moral/morality)과 윤리(ethics)개념의 구분을 제안한다. 본 연구는 AME와 AEA를 둘러싼 윤리적 쟁점들을 비판적으로 검토함으로써, 관련 기술의 설계와 적용을 위한 규범적 함의를 제공한다.