ChatGPT’s security risk and its legal countermeasures

인공지능 기술의 비약적 발전으로 새로운 과학기술 혁명을 도래하였다. ChatGPT는 생성형 인공지능의 이정표적 응용 사례로서, 우수한 자연어 처리기술은 인터넷 생태계 및 인간-기계 상호작용 모델에 획기적인 변화를 가져였다.종합적인 국가안보 관점에서 검토해보면, 고품질의 실질적 데이터와 인간 피드백에 기반한 강화 학습이라는 혁신적인 알고리즘을 기반으로 지원되는 ChatGPT는 인간과의 대화형식 상호작용으로 점차 “유사 인간 특징”을 나타내고 있다. 나아가 ChatGPT는 과거 대화 기록을 저장하는 기능을 보유하고 있을 뿐만 아니라, 과거 대화 내용에 대한 이해를 바탕으로 새로운 대화를 확장하고 심화하는 능력도 갖추고 있다. 그러나 ChatGPT의 실용성이 크게 강화된 동시에, 자연인의 권리 보호에 장애 요인으로 작용하고 있으며, 정치 및 경제 영역에서 안전상의 잠재적 위협을 내포하고 있다.<br/> 본 연구에서는 먼저 ChatGPT의 작동 원리를 기반으로 주요 특징을 정리하고, 이를 바탕으로 국민 안전, 정치적 안전 및 경제적 안전 차원에서 발생할수 있는 리스크를 분석하였다. 국민 안전 차원에서, 데이터 수집단계에서는 성과물 도용 행위가 발생하고, 데이터 저장 단계에서 데이터 유출 위험이 존재한다. 정치적 안전 차원에서, 기술 우위 국가가 기술 열위 국가를 대상으로 정보 수집 및 가치관 전파 도구로 악용될 가능성이 존재하며, 기술 방면의 대기업이 정부의 통치 권한을 대체할 위험을 초래한다. 경제 안전 차원에서, 알고리즘 적용 단계에서 적대적 공격(Adversarial Attack)으로 시장의 공정 경쟁을 저해할 위험이 존재하며, 알고리즘 보급 단계에서 기계적으로 반복되는 작업 노동자 및 고도로 규격화된 정신 노동자를 빠르게 대체하여 고용 안정성에 대한 압박이 가중될 우려가 있다. 이러한 위험을 예방하기 위해 정보 검색 분야의 데이터 처리 규범 제정, 온라인에서의 극단적 발언에 대한 관리·감독 강화, 기업 등급별 자율 점검 규정에 대한 세분화, 노동시장 내 대체 가능성 규모에 대한 사전 예측 등의 대안을 모색할 필요가 있다. 이를 통해 국민안전, 정치적 안전, 경제적 안전 및 국가 이익의 유기적 통합을 실현하고, 인공지능 산업의 발전과 안전 사이의 균형을 모색하는 데 있어 중국의 지혜를 기여하고자 한다.