“AI 이용해 만든 것 티 난다”… ‘진짜 같은 가짜’ 아니면 감경
피해 사실 알 수 없는데도… 피해자 의사 밝힐 것 요구하기도
“입법자들의 의도 왜곡하고, 가해자들은 악용하고 있는 상황”
한국여성정책연구원 세미나, AI 성범죄 처벌 법적 공백 지적인공지능(AI) 기반 딥페이크 성착취물 등 디지털 젠더폭력을 처벌하는 데 있어서 다수 법적 공백이 발생하고 있는 것으로 나타났다. AI 성범죄 관련 별도 규정을 마련해 새로운 법적 원칙을 마련할 필요성이 제기된다.
'진짜 같은 가짜' 아니면 감경?
지난 16일 서울 은평구 한국여성정책연구원에서 진행된 개원 43주년 기념 세미나 'AI 시대 디지털 젠더폭력 대응 정책의 전환 모색: 사후 조사에서 사전 예방으로' 발제에 나선 한민경 경찰대학 행정학과·치안대학원 범죄학과 교수는 AI 기반 성범죄의 법적 공백을 지적했다. 그는 대표적인 네 가지 법적 공백 사례를 제시했다.
우선 AI를 활용한 편집물·합성물 등이 얼마나 정교한지 검토해 '진짜 같은 가짜'가 아니라고 판단되면 감경 요소로 참작하는 경향이다. 실제 지난해 여성을 상대로 한 성착취 허위영상물 제작·반포 등 혐의에 대해 "컴퓨터 인공지능을 통해 만든 것으로 그 수준이 그리 정교하지는 않다"거나 "피해자들의 얼굴을 딥페이크를 이용해 합성한 것임을 비교적 쉽게 알아차릴 수 있다", "AI 프로그램을 이용해 만든 것이 티가 난다"는 등의 이유로 감경한 사례들이 있다.
한 교수는 이러한 문제가 반복되는 원인을 '법률용어 해석의 차이'에서 찾았다. 현행 성폭력처벌법은 '허위영상물'을 사람의 얼굴·신체를 대상으로 한 촬영물·영상물 등을 △대상자의 의사에 반해 △성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성·가공·복제한 형태로 규정하고 있다. 공직선거법의 경우엔 '딥페이크 영상'을 △AI 기술 등을 이용해 만든 △실제와 구분하기 어려운 △가상의 음향, 이미지 또는 영상으로 정의하고 있는데, 두 규정 사이에서 AI 기반 성범죄가 광범위하게 해석됨에 따라 법적 공백이 발생한다는 설명이다.
한 교수는 "성폭력처벌법은 AI 기술을 이용하거나, 실제로 구분되지 않을 정도로 정교하거나, 가상의 것임을 요구하지 않는다. 그러나 많은 피해자나 대중은 허위영상물을 공직선거법 규정과 마찬가지로 AI 기술을 이용해 만들었거나, 실제와 구분하기 어렵거나, 가상의 것으로 간주하기 쉽다"며 "그렇지 않으면 허위영상물에 해당하지 않아 처벌이 어렵다고 오인할 우려가 있다"고 지적했다. 그러면서 "완곡한 용어 사용에는 한계가 있다"고 지적하며 "피해자, 대중과 법관의 시각이 크게 다르지 않다"고 말했다.
피해 사실 알 수 없는데도…피해자 의사 밝힐 것 요구
AI 기반 성범죄는 피해자가 피해 사실을 인지할 수 없는 사례가 대다수임에도 불구하고, 법원에선 대상자가 특정되지 않거나 처벌 의사를 명확하게 밝히지 않으면 처벌할 수 없다고 판단하는 문제도 있다. 실제 지난해 "대상인 사람은 편집·합성 또는 가공에 대해 동의 또는 반대 의사를 가질 수 있는 실제 존재하는 사람이어야 한다"거나 "'불상의 피해자'가 실제 존재했다고 단정하기 어렵다"며 무죄로 판단한 사례가 있었다.
성폭력처벌법상 '성적 욕망 또는 수치심을 유발할 수 있는 형태인지' 여부를 법관 개인의 시각에서 판단하는 문제도 있다. 지난해 피해자의 신체 대부분 혹은 성기를 스티커로 가렸다며 "일반적으로 노출된 신체부위를 가리는 행위로 성적 욕망 또는 수치심이 유발됐다고 보기 어렵다"고 본 경우도 있었다. 피해자에게 허위영상물을 직접 전송한 경우는 반포에도 제공에도 해당하지 않는다며 무죄로 보는 공백도 지적됐다. 한 교수는 "가해자들은 이러한 법적 공백을 너무나도 잘 알고 있다"고 "반포나 제공에 해당하지 않으면 유죄로 판단되지 않는다는 것을 알고 있어서 가해자들끼리 연대를 통해 감시단을 조직하고 피해자에게 허위영상물을 직접 전송하는 방식으로만 행위 한 사례도 있다"고 지적했다.
법적 공백을 메우기 위해선 새로운 규율이 필요하다. 한 교수는 AI를 활용한 허위영상물이 얼마나 정교한지를 기준으로 삼는 문제에 대해선 본래 허위영상물과 구분되는 '딥페이크영상물' 관련 새로운 조문을 추가하는 방안을 제안했다. '성적 욕망과 수치심을 유발할 수 있는 형태'와 관련해 자의적 판단이 이뤄지는 문제를 개선하기 위해선 가해자가 침해한 피해자의 '성적 인격권'을 명확히 구분하고, '수치심'이라는 단어도 '불쾌감'으로 바꿀 필요가 있다고 말했다.
AI 기반 성범죄는 특히 피해자 확인이 어려울 수 있기에 '의사에 반하여'라는 문구는 삭제하고, 행위 유형에 '전송'이라는 단어를 추가하는 방안도 제시됐다. 한 교수는 "입법자들의 의도를 왜곡하고 가해자들이 악용하고 있는 상황에 대해 1764년 체사레 베카리아(Cesare Beccaria·이탈리아 법학자)가 남긴 글로 말하고자 한다"며 "법의 해석이 하나의 해악이라면, 법의 해석을 불가피하게 만드는 법의 불명확성 역시 명백히 또 다른 해악"이라고 강조했다.