Scenarios of AI Harm: A Grounded Theory Analysis

본 연구는 인공지능(AI)이 자율성과 주체성을 갖춘 윤리적 행위자로 진화함에 따라, AI의 사회적 영향력과 그로 인한 해악(harm) 유발의 가능성이 커지고 있음에 주목하였다. 본고는 이처럼 AI가 해악으로 작용하는 조건은 무엇이며, 어떠한 경로로 그러한 결과가 발생하는지를 분석하기 위해, Strauss & Corbin(1990)의 근거이론 방법론의 패러다임 모형을 이론적 분석틀로 차용하였다. 이를 위해 본고는 선행연구와 질적 자료 분석을 바탕으로 AI 해악을 유발하는 여섯 가지 조건(인과적, 맥락적, 중심현상, 작용/상호작용 전략, 중재적, 결과적 조건)을 도출하고, 각 조건이 해악 발생에 어떠한 방식으로 기여하는지를 설명하고자 하였다. 분석 결과, AI 해악의 중심현상은 AI가 인간 수준의 윤리적 주체성을 갖고 독립적으로 행위하는 능동적 존재가 되었다는 점이며, 인과적 조건은 초지능 및 범용 AI의 등장과 인간의 통제력 상실이다. 맥락적 조건으로는 생성형 AI의 확산, 초연결 사회의 형성, 하이프 머신 알고리즘이 지목되었고, 중재적 조건은 AI의 윤리적 무정렬성과 자기교정 불가능성이다. 특히 인간의 ‘동조’와 ‘방관’이라는 작용/상호작용 전략은 AI 해악 발생의 핵심 촉매로 작용한다. 결과적으로 AI 기술의 탈인간적 적용, 감시 및 조작의 확대, 정보 오남용과 같은 결과적 조건들이 AI의 해악을 심화시키고 있으며, 이는 개인, 사회, 글로벌 수준에서 각각 다른 양상으로 나타난다. 본고의 논의를 통해 AI 해악을 예방하기 위한 핵심 과제로 윤리적 정렬과 거버넌스의 필요성과 AI 기술의 감독에 대한 인간의 책임을 주목할 수 있을 것이다.