[사사건건]또 터진 대학가 딥페이크 성범죄, AI 위협은 더 빨라진다

지식의 상아탑이라는 대학가에서 또다시 여학생들의 얼굴을 나체 사진에 합성한 성범죄물(딥페이크)이 공유된 사실이 확인됐다. 2020년부터 운영된 것으로 알려진 단체 텔레그램 대화방의 참가자는 1200명에 달하고, 피해자 대부분은 인하대학교 재학생 또는 졸업생이었다. 대화방에는 피해자들의 연락처와 학번 등 개인정보가 여과 없이 공유됐고, 피해자의 목소리로 ‘노예’나 ‘주인님’ 등 성적인 의미를 가진 단어를 말하는 딥페이크 음성 파일도 올라왔다.

대화방의 존재는 인하대 졸업생인 한 피해자가 지난해 말부터 ‘대화방에서 봤는데 본인이 맞느냐’는 메시지를 연이어 받으면서 세상에 알려졌다. 이 피해자는 인천 미추홀경찰서에 곧장 고소했고, 올해 2월에는 학교 차원에서 인천경찰청에 수사를 의뢰했다. 그러나 아직 대화방 운영자를 비롯한 주범은 특정조차 되지 않았다. 텔레그램 서버가 해외에 있어 인물 특정이 어렵다는 이유에서다.

결국 피해자가 직접 해당 대화방에 들어가 자료를 취합해 경찰에 제출했고, 피해자의 딥페이크 사진을 내려받아 유포한 남성 1명이 성폭력처벌법 위반 혐의로 기소돼 징역 1년이 선고받았으나 그뿐이었다. 텔레그램 참가자 1명이 경찰에 추가로 붙잡혔지만, 처벌까지 이어지진 않았다. 사람의 얼굴·신체 또는 음성을 대상으로 한 촬영물·영상물 또는 음성물의 경우 반포 등의 목적이 명확해야 처벌할 수 있기 때문이다. 개인 소지 목적의 딥페이크 음란물 제작 행위, 시청 행위는 처벌 대상에서 제외된다.

사실상 딥페이크 기술의 악의적 사용에 대처할 구체적인 해결책이 없는 셈이다. 'AI 산업 육성 및 신뢰 기반 조성에 관한 법률안(AI 기본법)'은 지난 21대 국회에 통과되지 못했다. 22대 국회에서도 6건이 발의됐지만, 계류 중이다. 딥페이크 영상, 음향 등 AI 기술을 이용해 제작한 정보를 온라인에 게재할 때 워터마크 표시 의무화를 담은 정보통신망법 일부 개정안도 갈 길이 멀어 보인다.

전 세계 주요국들이 AI와 관련된 규제 법령 정비에 적극적으로 나서고 있는 것과는 대조적인 모습이다. 유럽의회는 지난 3월 AI 기술 혁신을 촉진하면서도 안전과 기본권 준수를 보장하는 기본법을 최종 승인했고, 미국도 지난해 10월 조 바이든 대통령이 ‘안전성·보안성·신뢰성을 갖는 AI의 개발과 활용에 관한 행정명령’에 서명했다. 이웃 국가인 일본이 지난해 주요 7개국(G7) 정상회의에서 생성형 AI 규제의 필요성을 논의했고, 중국 역시 생성형 AI 서비스에 관한 법률을 제정하고 있다.

딥페이크 영상은 디지털 성범죄뿐만 아니라, 초상권, 인격권 침해, 개인의 사생활 침해와 명예훼손 문제로도 이어질 수 있는 심각한 사회 문제다. 방송통신심의위원회에 적발된 딥페이크 기술을 악용한 ‘성적 허위영상물’이 올해 상반기에만 6000여건으로, 작년 전체의 84%에 이르렀다. 반면, 2020~2023년 딥페이크 범죄 관련 1·2심 판결 71건 중 실형을 선고받은 경우는 4건에 불과할 정도로 처벌은 미미했다.

기술의 발전 속도를 감안하면 딥페이크는 더욱 고도화되고 광범위해질 가능성이 높다. 그만큼 디지털 성범죄 피해자들의 수도 기하급수적으로 늘 수 있다는 의미다. 더 늦기 전에 딥페이크에 대처할 수 있는 기술적, 사법적, 그리고 사회적 규제가 필요한 시점이다.

유병돈 사회부 사건팀장 tamond@asiae.co.kr