피해자만 60명 '서울대 N번방'에 경각심 커지는데…불법 음란물 삭제는 2%뿐

'딥페이크' 기술 악용…지인 사진으로 제작
성적 영상물 시정건수 최근 2년간 4배 늘어
본인 발견 어려워…"외국과 협력 강화해야"

서울대학교 후배들의 얼굴을 이용해 불법 음란물을 제작하고 유포한 남성 2명이 경찰에 구속됐다. 이들은 사회관계망서비스(SNS)에 올라온 지인들의 사진을 합성해 마치 지인이 등장하는 것처럼 불법 음란물을 제작했다. 이렇게 제작된 음란물은 1000명이 넘는 사람들에게 공유됐다.

범행에 텔레그램이 이용돼 일명 '서울대 N번방'으로 불리는 이번 사건이 기존 N번방 사건과 다른 점은 딥페이크 기술을 활용한 신종 디지털 성범죄라는 점이다. 딥페이크는 '딥러닝(deep learning)'과 '가짜(fake)'의 합성어로, 인공지능(AI)을 기반으로 한 인간 이미지 합성 기술을 뜻한다. 음란물에 지인 사진을 합성하는 성범죄뿐 아니라 정치인 등 유명인의 말과 행동을 조작하고 거짓 정보를 퍼뜨리는 도구로도 이용된다.

서울 관악구 서울대학교 정문. 사진=강진형 기자aymsdream@

'본인 또는 지인 신고' 10%대 그쳐

딥페이크 범죄가 사회적 관심을 받기 시작한 건 비교적 최근이다. 관련 처벌법이 도입된 지도 5년이 되지 않았다. 2020년 신종 디지털 범죄로 딥페이크 영상물이 활개를 치며 관련 처벌법이 도입됐다. 성폭력처벌법 제14조의2(허위 영상물 등의 반포 등)에 따라 반포 등을 할 목적으로 대상자의 의사에 반하여 성적 수치심을 유발할 수 있는 음란물을 제작한 자는 5년 이하의 징역 또는 5000만원 이하의 벌금에 처하도록 했다.

그럼에도 딥페이크 성적 영상물은 여전히 신고도, 처벌도 어렵다. SNS·포털 사이트 등 온라인에 올라온 온갖 사진이 범행에 활용될 수 있어 본인도 모르는 사이 피해자가 된다. 이번에 드러난 서울대 사건도 SNS에 올라온 사진과 메신저 프로필 사진 등이 피해자도 모르는 사이 범행에 이용됐다.

제작 방법도 갈수록 간단해지고 있다. 5만원가량 의뢰비만 지불하면 누구나 쉽게 영상 또는 사진을 제작할 수 있다. 최근엔 빠르게 딥페이크 시각물을 제작해주는 휴대폰 애플리케이션(앱)도 등장했다. 신진희 성범죄 전문 변호사는 "딥페이크 성적 영상물을 제작하는 방식은 기술이 발전할수록 쉽고 다양해지고 있다"며 "누구에게나 접근이 용이해 범죄에 악용될 가능성도 다분하다"고 말했다.

딥페이크 범죄의 급증에도 피해자 혹은 지인이 영상물을 발견하는 경우는 드물다. 고민정 더불어민주당 의원실이 방송통신심의위원회(방심위)를 통해 받은 자료에 따르면 '성적 영상물 시정 요구 건수'는 2021년 1913건에서 2023년 7187건으로 2년 만에 4배 가까이 늘었다. 그러나 같은 기간 '민원'을 통해 접수된 경우는 1874건으로 전체 14.7%에 그쳤다. 대신 방심위 자체 모니터링을 통해 발견된 경우가 1만693건으로 전체 84.3%에 달했다.

방심위 관계자는 "피해자가 본인의 얼굴 혹은 신체가 딥페이크 영상물로 제작돼 온라인에 떠돌아다녀도 인지조차 하지 못하는 경우가 많다"며 "24시간 연중무휴로 모니터링하고 있지만 모든 음란물을 찾아내 처벌하는 것은 어렵다"고 말했다.

삭제도 '2%'뿐…해외 서버 권한 없어

불법 음란물을 발견하고 피해 사실을 인지한다고 해도 영상을 마음대로 삭제할 수 있는 건 아니다. 인터넷 정보에 관한 조치는 '속지주의(법의 적용 범위를 자국 영역 내로 제한하는 것)'를 적용받아 해외에 서버를 둔 사이트에 유포된 영상의 경우 방심위를 포함한 국내 기관이 삭제 요청할 권한이 없다. 대신 국내에서는 해당 사이트의 접속을 차단하는 '접속 차단'으로 영상물 접근을 막고 있다. 그러나 IP 주소를 바꾸면 시청이 가능하고 영상을 완전히 삭제하지 않으면 2차 피해로도 이어질 수 있어 한계가 분명하다.

방심위는 산하에 '국제 협력단'을 두고 해외 유관 기관과 협력해 적극적으로 삭제 조치를 요구하고 있다. 그렇지만 삭제 비율은 매우 저조하다. 최근 4년간(2020년 6월25일~2024년 4월30일) 성적 허위 영상물의 시정 조치 결과를 살펴보니 삭제 비율은 2.3%에 불과했다.

전문가들은 세계적으로 '딥페이크 포르노' 등 불법 음란물에 관한 경각심이 높아지고 있는 만큼 불법 음란물 문제에 대한 공감대를 불러일으키고 정부 간 협력을 이어가야 한다고 조언한다. 최경진 가천대 법학과 교수(개인정보전문가협회장)는 "가장 현실적인 방법은 정부 간 협력을 통해 딥페이크 포르노에 대한 문제의식과 공감대를 형성해 관련한 법을 만들도록 유도하는 것"이라며 "미국, 유럽 등 표현의 자유를 중시하는 국가에서도 최근 불법 영상물에 대한 규제 필요성이 대두되고 있다. 이러한 흐름을 최대한 활용해야 할 것"이라고 조언했다.

이서희 기자 dawn@asiae.co.kr