A Study on the Legal Direction for Preventing Gender Bias in Artificial Intelligence in Korea

인공지능이 산업계를 넘어 빠르게 대중화되고 있는데 반해 인공지능의 젠더 편향이나 차별 등의 위험과 이에 대한 규제의 필요성 논의는 충분히 이루어지고 있지 못하다. 최근 합의된 유럽연합의 인공지능법(AIA)은 성평등 문제와 관련된 특정 형태의 행동에 대한 제한 및 규제 조치를 예고하고 있다. 미국의 경우에도 행정명령을 통해 자동의사결정 시스템에 대한 영향평가를 실시토록 하고 있으며 이 때 젠더 등에 대한 차별적 수행을 평가할 수 있도록 하였다. 반면 우리나라는 아직 인공지능 규제 정책이 부재하고 있으며 규제 필요성에 대한 논의가 시작 단계에 있다. 이에 본 연구에서는 인공지능의 젠더편향 및 차별 규제 방안에 관한 기존 논의를 검토하고 향후 젠더 편향 완화를 위한 정책 방안을 탐색하고자 한다.<br/> 인공지능의 젠더 편향은, 데이터가 수집, 처리, 분석되는 방식에서 발생할 수 있다. 젠더 편향은 결과적으로 부정확한 결론, 불공정한 결정, 그리고 이에 따른 차별로 이어질 수 있다. 이에 본 연구에서는 인공지능에서 활용되는 데이터와, 알고리즘, 사용자 이용에서 고려해야 하는 젠더 편향의 문제들을 파악하고, 젠더 편향의 부정적 효과 및 인공지능 시스템에서의 리스크 요인으로 작용할 가능성에 대한 논의들을 살펴본다. 이 같은 논의에 근거하여 향후 우리나라의 인공지능 규제 정책에 있어 젠더 편향에 대한 명시적 금지, 인공지능 위험관리 대상으로 잠재적 편향 및 차별 가능성 명시, 젠더편향 측정 기준으로서 공정성 명시의 필요성 등 정책 방향을 제시한다.