최근 딥페이크를 사용한 디지털 성범죄 문제가 심각한 수준으로 떠오르며 삭제 조치를 강화해야 한다는 목소리가 나오고 있다. 인공지능(AI)으로 사람 얼굴 사진·동영상에 음란물을 합성하는 수법으로 인한 피해가 급속도로 늘고 있기 때문이다.

21일 여성경제신문 취재를 종합하면 국민권익위원회에 지난 2021년 11월부터 올해 10월까지 3년간 디지털 성범죄 민원 1096건이 접수됐다. 올해는 디지털 성범죄 민원이 월평균 50건 접수됐다. 이는 전년 대비 70% 증가한 수준이다. 특히 올해 8월 접수된 디지털 성범죄 민원(213건)은 전년 동기 대비 510% 늘었다.

민원은 딥페이크 성범죄를 신고하고 조사·삭제·처벌 강화를 요구하는 내용 등이었다. 한 민원인은 “한국인이 100% 이용하는 A 사이트는 외국에 있다는 이유로 딥페이크를 방조하고 있는데 이해가 가지 않습니다. 즉각 사이트를 폐쇄하십시오”라고 요청했다. 다른 민원인은 “해외 서버를 핑계로 쉬쉬하지 말고 국제 공조 등 모든 수단을 동원해 수사해달라”고 했다. 또 다른 민원인은 “불법 촬영물 삭제 비용은 가해자가 지불하도록 해야 한다”고 했다.

소셜미디어 시대에는 SNS에 업로드된 사진과 영상만으로 딥러닝 기술을 활용해 딥페이크 영상을 제작할 수 있다. 이러한 기술적 용이성은 디지털 성범죄 피해 증가의 주요 원인으로 지목된다.

딥페이크 성범죄 처벌 강화는 국회 국민 동의 청원이 5만명을 넘자 신속하게 추진됐다. 국회는 지난 9월 딥페이크 성 착취물을 소지하거나 시청하면 3년 이하 징역 또는 3000만원 이하 벌금에 처하는 법안을 가결했다. 허위 영상물을 이용한 협박·강요에 대한 처벌 규정(징역 1년 이상)도 마련됐다. 

하지만 딥페이크 피해 영상 삭제는 한계가 있는 상태다. 현재 '디지털 성범죄피해자지원센터'에서 딥페이크 등 디지털 성 착취물을 삭제하는 역할을 맡고 있다. 지난달 국회 여가위 국정감사에서 디성센터 및 여성가족부는 "해외로 퍼진 딥페이크 영상물과 관련 해외 플랫폼 등에 삭제를 요청하면 불응하는 경우가 많고 수작업으로 삭제지원 요청을 하는 어려움이 있다"고 호소한 바 있다.

영국, 프랑스 등 해외 국가에서는 플랫폼 사업자에 불법 콘텐츠 관리의무를 부과하고 있다. 이에 한국 정부도 지난 6일 텔레그램과 같은 메신저와 네이버, 메타 등 플랫폼에 대한 관리·감독 등 의무를 강화하고 이를 제대로 이행하지 않으면 과태료나 과징금을 부과하겠다는 근절 대책을 발표했다.

플랫폼 사업자가 삭제 요청을 받은 영상물에 대해 성범죄물 여부 판단이 어려울 가능성이 있다. 이 경우 신속 삭제를 위해선 '선(先) 차단 후(後) 심의'가 필요하다는 목소리가 나온다. 이를 위해선 전기통신사업법을 개정해야 한다.

전문가는 딥페이크를 특정한 가중처벌보다는 전반적인 성범죄 조기 처벌 체계를 주문했다. 김진우 법무법인 주원 소속 대한변호사협회 윤리 이사는 여성경제신문과의 통화에서 "딥페이크뿐만 아니라 모든 악의적 성범죄에 대해 강력한 처벌이 이루어져야 하며 이를 통해 사회적으로 만연하기 전에 적극적으로 대응해야 한다"고 말했다.

이어 "딥페이크 범죄의 진입장벽이 낮아 보복적 의도가 결합할 경우 피해가 더욱 심각해질 수 있다. 따라서 조기에 엄중한 처벌이 필요하다"며 "억울한 피해자가 발생하지 않도록 수사를 철저히 하되 실제 범죄가 입증된 경우 강력히 처벌하는 전반적인 형사 체계가 필요하다"고 설명했다.

지난 21일 '인하대 딥페이크' 사건으로 기소된 30대 남성 유모 씨에게 재판부는 징역 1년을 선고했다. 그는 텔레그램 채팅방에서 딥페이크 합성물을 내려받아 피해자의 지인에게 8차례 전송한 혐의를 받았다. 선고에는 유 씨가 피해자에게 문자와 전화를 반복적으로 보내며 스토킹 처벌법을 위반한 혐의도 포함된 결과이다.

김상균 경희대학교 경영대학원 교수는 지난 15일 국민통합 콘퍼런스에서 "딥페이크는 왜곡된 사회적 기억을 만드는 범죄"라며 "개인의 문제를 넘어 사회 전반에 걸친 문제로 확산하고 있다. 딥페이크 성폭력은 타인의 정신을 파괴하는 범죄로 총기 규제처럼 AI 기술에도 강력한 규제가 필요하다"고 지적했다.