An Analysis of the Risks Posed by AI-Driven Crime Consulting and the Need for Legal Regulation

소설 셜록홈즈에 등장하는 모리어티는 홈즈의 영원한 숙적이다. 모리어티는 자신이 직접 범죄를 저지르기보다는 범행을 저지르기를 원하는 타인의 행위를 돕는 역할을 주로 수행한다. 독자들은 천재적인 두뇌를 바탕으로 범죄의 전체적인 틀부터 세부적인 부분까지 자문을 해주는 모리어티를 보며 매력을 느끼게 된다. 일반적으로 모리어티와 같은 자를 ‘범죄 코디네이터’라고 칭하고 이러한 행위를 ‘범죄컨설팅’이라고 부른다.<br/> 보통의 범죄컨설팅은 개인이 개인에게 구체적인 범행을 조언해주는 방식으로 이뤄진다. 그러므로 범죄 코디네이터는 범죄를 직접 실행하는 자가 어떠한 고의를 가지고 무슨 행위를 할 것인지에 대하여 구체적으로 인지하는 경우가 많다. 설사 구체적으로 무슨 행위를 할 것인지에 대한 세부적인 인식은 하지 못하였더라도 어느 법익을 침해할 것인지에 대하여는 예견하는 것이 일반적이다. 이렇듯 범죄 코디네이터는 정범의 범행을 인지하고 이를 돕는 역할을 수행하므로 정범이 행한 범죄의 방조범 책임을 지우는 것이 일반적인 해석이다. 하지만 정범이 실행의 착수에 나아가지 않을 경우에는 범죄 코디네이터는 예비·음모 규정이 있을 경우에 한하여 예비·음모죄로 처벌할 수 있을 뿐이고, 그렇지 않다면 처벌할 수 없게 된다. 즉 범죄 코디네이터를 처벌하기 위하여는 정범의 실행의 착수가 필수적이므로 정범의 행위에 크게 의존된다는 한계를 지니고 있다. 개인이 개인에게 범죄컨설팅을 해주는 케이스의 위험성과 관여도를 고려할 때는 기존의 해석이 크게 문제된다고 볼 수 없지만, AI를 도구로 사용하는 범죄코디네이터에게 위 해석을 그대로 적용할 경우 사회에 끼치는 해악성에 비해 처벌의 불균형이 발생할 수 있다. AI 개발자 및 관리자가 구체적인 최신 범죄방법을 제공할 수 있는 AI를 만드는 것의 위험성이 상당히 높기 때문이다. AI는 짧은 시간에 수많은 범죄자들에게 범죄컨설팅을 해줄 수 있기 때문에 대규모의 피해자가 발생할 수 있다. 특히 AI가 최신 판결문의 범죄방법을 학습한다면 그 위험성은 훨씬 증대된다.<br/> 본 연구는 최신 사기 사건 판결문에 기재된 구체적인 범죄방법을 습득한 AI가 악의적인 답변을 제공해줄 수 있는지 대한 실험을 진행하였고, 결과적으로 AI 내부에 윤리필터가 존재함에도 불구하고 악의적인 답변을 해준다는 점을 확인하였다. 본 실험결과는 악의적인 AI를 만들어 범죄컨설팅에 활용하는 것이 기술적으로 충분히 가능하다는 점을 입증한다. 따라서 짧은 시간에 수많은 피해를 발생시킬 수 있는 AI 범죄 컨설팅의 위험성을 고려할 때, 국회는 국민들을 범죄로부터 보호하기 위하여 이를 규율하는 관련 형법 규정을 조속히 조속히 제정해야 한다.