Legislative considerations for AI systems and data privacy

인공지능은 복잡하고 독특한 방식으로 프라이버시 문제를 제기한다. 개인은 자신의 데이터가 인공지능시스템 개발에 활용되는 동안 프라이버시가 침해될 가능성을 우려하고 있으며, 기업의 경우 데이터 처리 규정을 준수하는 것이 기존의 개인정보보호 규칙을 따르는 것보다 까다로울 수 있다. 인공지능 시대의 프라이버시 보호는 정보 주체의 권리를 보호하고 프라이버시 침해에 대비하는 동시에 자유민주주의 시민권, 혁신, 인간 삶의 번영과 관련된 정책 목표를 가지고 있다. 그러나 데이터 최소 처리가 항상 데이터 공유 정책과 일치하지 않으며, 안전하고 윤리적인 사용을 보장하는 것도 아니다. 원본 데이터를 사용하는 것이 더 나은 결과를 가져올 것이라는 믿음으로 동의 절차를 우선시하는 것은 편향되지 않고 신뢰할 수 있는 인공지능시스템 개발을 위한 입법 목표로는 적절하지 않다. 인공지능시스템과 데이터 프라이버시를 위한 법률은 데이터수집 방법, 공유 체계, 추론 도출 알고리즘에 따라 생성된 데이터 특성을 반영해야 한다. 또한 정부 기관이 인공지능시스템을 개발하고 배포하기 위한 적절한 적합성 평가와 위험도 평가 기준을 명확히 정해 놓을 필요가 있다. 동시에 유럽연합을 비롯한 여러 나라의 법률과 글로벌 규정을 반영하여 사례별 평가 지침도 개발해야 한다.