AI Act, 2024 Presidential Election, and Human-AI Public Communication Verification Project to Fight Disinformation

2024년은 생성 AI 선거의 해이다. 허위조작정보는 여론을 좌지우지하며 시민들의 의사결정에 적잖은 혼란과 위험을 가중시키고, 민주주의를 훼손하고 있다. 공공의 책임에 대한 규범에 제약을 받지 않고, 조작된 개인화된 콘텐츠를 생성하는 선거 캠페인에서 생성 AI를 잠재적으로 고위험 시스템으로 인식하는 것이다. EU가 제정한 AIA에 따른 위험 관리, 투명성 및 인적 감독, 데이터와 데이터 거버넌스와 같은 의무 목록을 엄격하게 준수하여, 대중의 담론을 보호하고 기본권을 보호하기 위한 윤리적 표준 및 법적 요구 사항과 일치하도록 보장해야 할 것을 강조한다. 이 논문은 선거 캠페인에 사용된 허위조작정보를 조사하여, 탐지를 위한 생성 AI의 배치와 공공소통적 프로젝트 AIA에 대한 분석 및 중요한 교차점 및 사용자 관점의 함의를 점검했다. 또한 따라야 할 몇 가지 의무를 언급하며 시사점과 공공소통적 제안과 함께 효과적이고 윤리적이며 법적으로 준수할 수 있는 명확한 지침과 표준의 필요성을 강조했다.