Can Artificial Intelligence Be a Member of the Moral Community?

칸트에 따르면, 모든 이성적 존재는 도덕 공동체의 구성원이다. 만약 미래의 인공지능이 인간 수준의 지능에 도달하거나 이를 초월한다면, 그 인공지능은 도덕 공동체의 구성원으로 간주되어야 하는가? 이 논문의 목적은 이 질문에 대해 부정적인 답변을 옹호하는 것이다. 이를 위해 세 가지 주장을 한다. 첫째, 인공지능이 도덕 공동체의 구성원이 되기 위해서는 도덕규범이 그것에 적용될 수 있어야 한다. 이는 인공지능이 도덕규범에 따라 행위하거나 또는 그에 반하는 행위를 할 수 있는 이성적 능력을 가져야 함을 의미한다. 그러나 인공지능은 이러한 이성적 능력을 결여한다. 둘째, 인공지능이 도덕 공동체에 포함되기 위해서는 도덕규범에 의해 규제될 수 있어야 한다. 이를 위해서는 도덕규범을 인공지능에 강제하기 위한 효과적인 사회적 제재가 가능해야 한다. 하지만 인공지능은 진정한 자기 이익을 결여하고 있기 때문에, 도덕규범에 반하는 행동을 하더라도 자기 이익을 제한하거나 해를 가하는 방식으로 사회적 제재를 할 수 없다. 셋째, 스패로우는 인공지능이 인간과 동일한 도덕적 지위를 가지는지를 평가하기 위해 이른바 ‘튜링 트리아지 테스트’를 제안한다. 그러나 인공지능이 튜링 트리아지 테스트를 통과하기 어려운 강력한 이유들이 존재한다.