A Study on Identifying Poisoning Attacks in Training Dataset for AI-based Systems Using Smart Contracts

인공지능 기술의 발전 및 산업화에 따라 인공지능 기반 시스템 개발이 활성화되고 있다. 인공지능 기반 시스템 개발 시, 데이터셋을 수집하고 학습하는 과정에서 Poisoning Attack이 발생할 수 있다. 본 연구에서 스마트 컨트랙트 기술을 이용하여 Poisoning Attack 여부를 식별하고자 하였다. 스마트 컨트랙트를 개발한 후, AI 허브의 데이터셋 해시값을 이더리움 기반의 블록체인 테스트넷에 배포하여 블록으로 저장하였다. 일정 시간 이후 배포된 해시값을 추출하여 원본 학습 데이터셋 해시값과 변조된 학습 데이터셋 해시값을 각각 비교하였다. 두 해시값을 비교한 결과, 원본 학습 데이터셋이 Poisoning Attack으로 오염되었는지를 식별할 수 있었다.