오세훈 "7초만에 딥페이크 제작…삭제 지원, 지자체로 확대해야"

딥페이크 디지털성범죄 예방 토론회 참석
가해자 특정하기 어려운 수사 상황 우려
"서울시 삭제지원 장치 위한 법 개정 촉구"

오세훈 서울시장은 최근 사회적 문제로 떠오른 딥페이크 성범죄에 대해 피해 영상물 삭제 지원을 국가에서 지방자치단체로 확대해야 한다고 주장했다.

오 시장은 3일 오전 조은희 국민의힘 의원과 한국여성인권진흥원이 주최한 '딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책 토론회'에 참석해 "딥페이크 영상은 제작까지 단 7초밖에 걸리지 않고, 제작부터 유포까지 너무나 쉽게 가담할 수 있는 구조 때문에 누구나 피해자가 될 수 있다는 점에서 이전의 디지털성범죄와는 다른 양상을 보인다"며 이같은 대책 마련을 촉구했다.

오세훈 서울시장이 3일 오전 국회 의원회관에서 국민의힘 조은희 의원 주최로 열린 '딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책토론회'에 참석해 발언하고 있다.[사진출처=서울시]

이날 오 시장은 "최근 인공지능(AI)으로 특정 인물의 얼굴에 음란물을 합성한 딥페이크 영상이 무분별하게 생성 유포되면서 남녀 가리지 않고 피해자들이 생겨나고 있고 그로 인한 불안감이 사회 전반에 확산되고 있다"고 우려했다. 특히 해외에 서버를 둔 텔레그램 특성상 가해자를 특정하기 어려워 수사가 쉽지 않은 상황도 지적했다.

그러면서 딥페이크 피해 영상물을 삭제 지원할 수 있는 제도적 장치가 서울시에도 필요하다고 강조했다. 오 시장은 "서울시에서도 딥페이크 피해 영상물을 삭제 지원할 수 있는 제도적 장치가 필요한 만큼, 삭제 지원의 주체를 국가에서 지자체로 확대하는 법령 개정을 강력히 촉구한다"고 말했다.

서울시의 지원 상황을 전하기도 했다. 2022년 '서울 디지털성범죄 안심지원센터' 개관을 비롯해 '디지털성범죄 SOS상담' 창구 개설 등 시의 디지털성범죄 대응 노력을 설명했다. 또 얼굴 매칭을 통한 AI 딥페이크 검출 기술인 '서울 안심 아이(Seoul Safe Eye)'를 개발하고 'AI 신고자동화 시스템'도 연내 구축할 계획이라고 전했다.

앞서 서울시는 방송통신심의위원회와 24시간 이내에 딥페이크 음란물 영상을 삭제하는 '핫라인' 가동에 나섰다. 지금까지는 서울시 디지털성범죄안심지원센터에서 방심위에 삭제요청 할 때마다 증빙자료를 제출해야 했지만 이제는 시스템 연계를 통해 대량 건수를 일시에 삭제 요청할 수 있다.

배경환 기자 khbae@asiae.co.kr