Current Status of Hate Speech Filtering Using AI and Legalization

본 연구는 인터넷 사용자가 혐오표현에 장기간 지속적으로 노출될 때 증오범죄로 확산되고 사회적 갈등이 강화될 가능성 을 전제하여 AI 기반 혐오표현 필터링 기술의 국내외 현황과 사례를 분석하고 국내 법제화 방안을 제시한다. 한국은 온라인 플랫폼과 SNS를 통해 확산되고 있는 혐오표현에 대한 법적 규정이 없어 규제에 한계가 있지만, EU 등 해외에서는 개념 규정 과 함께 플랫폼 사업자의 의무를 규정하는 제도를 시행하고 있다. 따라서 AI를 활용한 혐오표현 필터링 현황을 살펴보고 국내 혐오표현 탐지 효율성 제고를 위해 법제화를 통한 기준 마련, 표현의 자유와 악용 가능성에 대한 합의를 이뤄내기 위한 사후 처벌이 아닌 사전 대응 체계에서의 접근, 그리고 투명성 확보를 위한 통합 대응 시스템 구축 방향을 제시한다.