A Study on the Accountability Framework for AI-Based Decision-Making Systems

본 연구는 인공지능을 비롯한 디지털 신기술이 우리 사회를 변화시키고 있는 이 시점에서 새롭게 등장한 자동적 책무성 체계하에서 발생할 수 있는 결과에 대한 책임 문제를 살펴보았다.<br/> 이를 위해 본 연구는 책무성 체계 분석틀을 활용하여 인공지능 기반 의사결정 시스템의 책무성 확보를 위한 역할책임(role responsibility), 설명책임(explanatory responsibility), 부담책임(liability)에 대해 살펴보았다. 역할책임에 대해서는 RASCI 모델을 활용하여 인공지능 기반 의사결정 시스템의 생명주기 별로 이해관계자 간 역할분담 방향을 제시하였다. 그리고 설명책임과 관련해서는 해당 시스템의 생명주기 별로 설명 가능성(explainability)을 고려한 이해관계자 간 책임 배분에 대해 살펴보았다. 마지막으로 부담책임은 인공지능 시스템의 복잡성이 초래한 책임 부담의 주요 이슈들에 대해 학자들의 논의를 중심으로 살펴보았다.<br/> 이러한 연구 결과를 바탕으로 외국의 인공지능 관련 법제화 동향과 함께 우리나라의 인공지능 관련 법령 및 가이드라인이 인공지능 기반 의사결정 시스템의 책무성 확보를 위해 어떤 한계를 보이고 있는지 분석하고, 향후 우리나라에서 인공지능 책무성 문제에 적절하게 대응하기 위해 고려하여야 할 사항을 정책적 제안으로 제시하였다.