[단독] AI시대의 그늘…'딥페이크' 성범죄 6년새 20배로

지난해 디지털 성범죄 피해자 첫 1만명 넘어

"시키는 대로 하지 않으면 알몸사진 (만들어) 유포하겠다."

이처럼 성적 수치심을 유발하는 영상을 착취해 유포하겠다고 협박하거나, 딥페이크 기술을 이용해 '가짜 영상'을 만들어 인터넷상에 올리는 등의 디지털 성범죄가 크게 늘고 있다.

지난해 이와 같은 방식으로 디지털 성범죄 피해를 당한 사람이 처음으로 1만명을 넘어선 것으로 나타났다. 정부가 2018년부터 디지털 성범죄 피해자를 집계한 이후 최대 규모다.

특히 피해 유형별로 보면 동의 없이 신체를 찍은 불법 촬영물보다 딥페이크 등의 합성물로 인한 피해가 6년 새 20배 폭증해 주목된다.

11일 여성가족부와 한국여성인권진흥원에 따르면 2024년 12월 말 기준 '디지털 성범죄 피해자 지원센터(디성센터)'에서 지원받은 피해자는 1만305명으로 전년(8983명)보다 14.7% 늘었다. 피해자가 1만명을 넘은 것은 2018년 4월 여가부가 디지털 성범죄 피해 확산을 방지하기 위해 디성센터를 설치한 이후 처음이다. 개소 당시 1315명에서 6년 새 9배 늘었다.

디성센터는 디지털 성범죄 피해자 상담과 피해 영상물 삭제 지원, 수사 연계 등 종합적인 활동을 펼치고 있다. 이 중 딥페이크 불법촬영물을 비롯한 각종 성 착취물을 삭제하는 게 주요 업무다. 피해 접수된 영상물을 지우는 일뿐만 아니라 아동·청소년 성 착취물 등은 모니터링을 통해 선제적으로 삭제한다. 불법 영상물이 유포됐을 경우에는 피해 지원 기관과 연계해 수사·법률·의료 지원도 한다.

이렇게 지난해 지원한 상담 건수는 2018년 4787건에서 지난해 2만8173건으로 6배 가까이 늘었고, 성인사이트와 사회관계망서비스(SNS)에서 삭제한 피해 영상물은 같은 기간 2만8879건에서 30만237건으로 10배 넘게 증가했다.

누군가의 '잊힐 권리'를 위해 지난해 하루 평균 822.5개의 불법 영상을 삭제했다는 얘기다. 지워도 지워도 계속 생산되는 성범죄 피해 영상물 때문에 삭제 건수는 매년 늘고 있다. 지금까지 삭제한 누적 불법 영상물 건수는 총 120만건(121만1797건)이 넘는다.

성범죄 피해 영상물이 유포되면 플랫폼별로 삭제요청을 하고, 수사기관에 증거 수집도 지원하는데, 지난해 수사·법률과 연계해 지원한 건수는 3826건이었다. 6년 전(203건)보다 19배가량 증가한 수치다. 센터와 검찰청·경찰청 핫라인 운영 등으로 크게 증가한 것으로 풀이된다. 특히 수사기관으로부터 피해자가 5인 이상인 집단 사건을 연계 받아 영상물을 삭제하기도 하는데 최근 관련 범죄가 늘면서 관련 기관과의 연계가 활발해졌다.

최근 주목되는 점은 합성·편집으로 인한 디지털 성범죄 피해가 급증했다는 점이다.

피해자들이 가장 많이 호소하는 피해 유형(중복선택)은 '유포불안(25.9%)'과 '불법 촬영(24.9%)'이지만 가파르게 증가하고 있는 유형은 '합성·편집'이다. 영상물이 생성된 유형으로 접근했을 때 불법 촬영 피해 건수가 6년 사이 6배 증가했다면 합성·편집 피해 건수는 20배(69건→1384건) 폭증했다.

합성·편집 피해는 전체 비중에서 8.2%를 차지했지만 디지털 환경 변화와 딥페이크 기술 확산, 생성형 AI의 등장으로 향후 피해는 더욱 다양한 양상으로 늘어날 것으로 보인다.

이런 상황에서 디지털 성범죄 피해자들을 신속하고 즉각적으로 구제해 줄 수 있는 방법은 '영상 삭제'다. 딥페이크 기술이 발달할수록 지워야 할 영상은 매년 증가하고 있지만 인력 충원은 기대에 미치지 못한다.

여성가족부는 지난해 디성센터의 예산을 늘려 딥페이크 성 착취물 삭제 인력을 보강하고 센터는 24시간 운영하겠다고 밝혔다. 이에 따라 국회 여성가족위원회에서 디성센터 예산을 정부안(32억원)보다 47억원 증액해 의결하기도 했지만, 최종 국회 예산결산특별위원회를 통과하지 못해 무산됐다. 오히려 작년(34억원)보다도 2억원 줄어든 32억원으로 올해 디성센터를 운영해야 한다.

디성센터 삭제 인력(16명)이 지난 한 해 삭제한 디지털 성범죄 영상물은 1인당 1만8760건이었다.

오주연 기자 moon170@asiae.co.kr