관계부처 30일 ‘딥페이크 대응방안’ 모색…AI기술 도입 시급

실무진들 모여 대책 마련 논의
법·제도 바꾸고 신기술 도입해야
내년 R&D 예산 20억 투입 예정

"딥페이크 성범죄는 가해자를 특정하기 어렵고 불특정 다수가 피해를 당할 수 있다는 점에서 국민적 불안이 커지고 있습니다."(신영숙 여성가족부 차관)

"건전한 디지털 질서를 만들기 위해 부처 간 협업을 확대해 나가겠습니다."(강도현 과학기술정보통신부 제2차관)

사회적 공분을 사고 있는 딥페이크 합성 불법 음란물에 대한 대응책을 마련하기 위해 과기정통부와 여가부가 만났다. 두 부처 차관은 지난 28일 서울 중구 한국여성인권진흥원에서 1시간 넘게 비공개 간담회를 갖고 협업 방안을 논의했다. 강 차관은 간담회 이후 아시아경제와 만나 "두 부처뿐만 아니라 관련 부처 간 협력을 강화하고 기술적, 제도적 지원을 확대하기로 했다"고 말했다.

강도현 과학기술정보통신부 제2차관(오른쪽)과 신영숙 여성가족부 차관(왼쪽)이 28일 서울 중구 한국여성인권진흥원 디지털성범죄피해자지원센터를 방문해 신보라 원장과 기념촬영을 하고 있다. [사진 제공=과기정통부]

딥페이크 음란물 시정요구 4배 급증

인공지능(AI) 기술이 전방위로 확산하면서 딥페이크 성범죄라는 사회 문제가 가장 큰 부작용으로 떠올랐다. 방송통신심의위원회에 따르면 딥페이크 성범죄영상물에 대한 지난달 말까지 시정요구 건수는 6434건으로 전년 동기 대비 4배 늘었다.

디지털성범죄피해자지원센터(디성센터)에 접수된 딥페이크 피해 지원 건수도 2018년 69건에서 올해(8월 25일 기준) 781건으로 11배 넘게 급증했다. 경찰청에 따르면 지난 1~7월 딥페이크 성범죄 신고는 총 297건 접수됐고 입건된 피의자 178명 중 10대는 131명으로 73.6%를 차지했다. 윤석열 대통령도 지난 27일 국무회의에서 딥페이크를 활용한 디지털 성범죄를 뿌리 뽑아야 한다며 강력 대응할 것을 지시했다.

30일 관계부처 모여 실무협의

디지털 성범죄 피해를 막으려면 예방과 불법 음란물 삭제·차단, 피의자 처벌 등 법·제도적 뒷받침과 기술 개발이 필요하다. 과기정통부, 여가부를 비롯해 방송통신위원회, 방송통신심의위원회, 교육부, 법무부, 경찰청 관계자가 모여 30일 실무협의를 열기로 했다.

과기정통부와 여가부는 이미 딥페이크 성범죄 대응을 위한 공동 정책 연구를 지난달부터 진행 중이다. 연말까지 한국지능정보사회진흥원, 한신대학교 산학협력단과 함께 디지털 성범죄 피해 예방 및 보호 방안을 마련할 방침이다. 연구 주요 내용은 ▲성폭력처벌법 개정 ▲피해자에 대한 실질적 지원 방안 ▲디지털 성범죄 불법 콘텐츠 검색·접근, 차단·추적이 가능한 시스템 구축 방안 등이다. 신보라 한국여성인권진흥원장은 "딥페이크 사건 때문에 수면 위로 올라오긴 했지만, 디지털 성범죄는 이미 심각한 문제였다"고 말했다.

류희림 방송통신심의위원회 위원장(오른쪽)이 28일 오세훈 서울시장과 딥페이크 성범죄영상물 신속대응 협력 체계 구축을 위한 업무협약을 맺고 기념촬영을 하고 있다. [사진 제공=방심위]

AI 부작용, AI로 해결…법 개정 시급

AI 기술로 벌어진 문제는 AI 기술로 풀어나가야 할 것으로 보인다. 과기정통부는 내년 딥페이크 관련 연구개발(R&D) 과제 추진을 위해 총 20억원을 투입한다고 밝혔다. 디성센터는 삭제 지원 업무의 AI 기반 자동화 시스템 구축이 무엇보다 필요한 상황이다. 현재는 센터 직원들이 문제가 되는 URL을 확인해 한 건씩 수동으로 온라인 플랫폼에 삭제 요청을 하는 방식으로 업무를 하고 있다. 삭제 요청을 하는 방식도 플랫폼마다 다르고 추후 해당 URL을 직접 접속해 제대로 삭제 조치가 이뤄졌는지 확인해야 하는 것도 번거롭다. 디지털 시대 피해 영상물이 빠르게 유포되는 상황을 감안해 24시간 피해 영상물을 모니터링하고 삭제 요청하는 자동화 시스템 구축이 절실하다.

여가부는 불법 촬영물뿐만 아니라 피해자의 신상정보까지 삭제할 수 있도록 하는 내용의 성폭력방지법 개정안을 의원 입법으로 추진 중이다. 방심위는 텔레그램, 페이스북, 엑스(X·옛 트위터) 등 글로벌 온라인 플랫폼 사업체들과 협의체를 구성해 자율규제를 요청하기로 했다. 방심위는 서울시와 업무협약을 맺고 24시간 이내에 딥페이크 음란물을 삭제하는 ‘핫라인’을 가동한다. 방통위는 텔레그램과 같은 그룹 채팅방에서도 불법 촬영물 삭제 및 유통 방지 의무를 부여하는 법률적 검토를 하겠다고 밝혔다.

김보경 기자 bkly477@asiae.co.kr