"학생 나체 사진 막아라"…전 세계 학교가 딥페이크 음란물과 전쟁중

동급생 SNS 사진 활용해 음란물 제작 늘어
미국서 퇴학에 이어 경찰 체포까지
국내도 학생 뿐 아니라 교사 피해도 발생
교내 규칙은 물론 관련 법 정비 필요성↑

세계 각국 학교와 지역 사회가 '딥페이크 음란물과의 전쟁'을 시작했다. 인공지능(AI) 기술의 활용이 보편화하면서 AI로 가짜 나체 사진을 만들어 유포하는 방식의 디지털 성범죄가 확산하고 있기 때문이다. 특히 학생들의 피해가 속출하고 있어 이를 막기 위한 조치 마련이 시급하다는 지적이 나온다.

[이미지출처=로이터연합뉴스]

美 베벌리힐스 남학생 5명 퇴학…"극심한 괴롭힘"

13일 뉴욕타임스(NYT) 등에 따르면 올해 2월 미국 로스앤젤레스 부촌 베벌리힐스의 베벌리비스타 중학교는 교내 여학생 16명의 가짜 나체 사진을 제작, 유포한 남학생 5명에 대한 퇴학 결정을 내렸다. 다만, 해당 지역 경찰이 자체 조사를 진행했음에도 가해자에 대한 기소나 체포 등은 이뤄지지 않았다.

딥페이크는 '딥러닝'과 거짓을 의미하는 '페이크'의 합성어다. AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 말한다. 최근 들어 생성형 AI 애플리케이션(앱)을 활용하기 수월해지자 학생들이 이를 사용해 가짜 나체 사진 등 가짜 음란물을 제작, 유포하는 일이 빠르게 늘고 있다.

베벌리비스타 중학교 측은 남학생들이 12~13세 여학생의 딥페이크 음란물을 만들어 유포했다는 사실을 인지한 직후 곧바로 전교생과 학부모, 전체 교직원에 'AI의 끔찍한 오용'이라는 제목의 메시지를 전송했다. 학생들이 AI를 부적절하게 사용하는 것을 막도록 조치를 취하라고 당부하는 메시지였다. 해당 지역구의 마이클 브레기 교육감은 "학교에서 발생한 극심한 괴롭힘이며 이러한 노골적인 사진은 피해자와 피해자 가족에게 충격을 주고 폭력적이라 할 수 있다"고 지적했다. 그러면서 "학생들이 아직 배우고 성장하는 단계에 있어 실수도 있을 수 있지만, 책임을 지는 것은 당연하며 이 범죄의 경우 절대 용납이 불가한 사건"이라고 강조했다.

플로리다에선 가짜 나체 사진 유포해 경찰에 체포

미국 학교에서 딥페이크 음란물 생성, 유포 사건이 발생할 때 미 경찰이 조사에 나서더라도 가해 학생이 체포되는 경우는 매우 드물다.

[이미지출처=EPA연합뉴스]

미 IT 전문 매체 와이어드는 미국 플로리다주 마이애미에서 13~14세 남학생 2명이 12~13세 여학생의 딥페이크 음란물을 만들어 유포했다가 지난해 12월 체포된 사건을 딥페이크 음란물 생성·유포 사건으로 가해 학생이 체포, 형사 기소까지 간 첫 사례로 봤다. 입수한 경찰 조사 보고서에 따르면 가해 남학생 2명은 피해자의 동의 없이 가짜 음란물을 만들어 유포한 혐의로 기소됐다. 이 범죄는 2022년 제정된 플로리다주 법에 따라 3급 중범죄에 해당한다.

교내 딥페이크 음란물 생성이 신기술을 활용한 최신 사건 유형이다 보니 학교에서도 어떻게 대응해야 할지 빠르게 판단하지 못하는 사례도 이어지고 있다. 지난해 10월에는 웨스트필드 공립 고등학교에서 남학생이 여학생의 사회관계망서비스(SNS) 사진을 이용해 딥페이크 음란물을 만들어 유포하는 사건이 발생해 피해자와 피해자 부모가 학교 측에 강력 대응을 요구하는 일이 있었다. 하지만 학교 측의 늑장 대응으로 피해 학생 부모는 공식 사건 보고서 조차 제대로 제공 받지 못했다.

미국 스탠퍼드대 인터넷연구소의 리아나 페퍼코른 연구원은 "이러한 현상이 너무 갑작스럽게 등장했기 때문"이라며 "제대로 대비하지 못한 많은 학교들은 사건 발생 시 무엇을 해야할 지 갈피를 정하지 못한다"고 지적했다.

이러한 사건이 미 전역에서 쏟아지자 미 연방수사국(FBI)은 지난달 생성형 AI 등을 활용해 식별이 가능한 미성년자의 딥페이크 음란물을 생성, 유포하는 행위는 불법이라고 경고하는 메시지를 내놓았다.

AI 활용 신종 학교폭력…국내서도 '골머리'

학교 내 딥페이크 음란물 생성, 유포 사건은 미국만의 문제가 아니다.

[이미지출처=로이터연합뉴스]

지난해 말 캐나다 남부 위니펙의 한 학교에서도 여학생을 성적으로 묘사한 딥페이크 음란물이 온라인에 유포돼 학교 측이 경찰에 신고하는 일이 벌어졌다고 CBC뉴스는 보도했다. SNS에 공개된 사진을 생성형 AI 앱에 넣어 제작한 가짜 나체 사진이었다. 학교 측은 유포자를 파악하기 위한 조사를 진행하는 한편 가짜 사진이 더 확대 유포되지 않도록 이를 삭제하는 업체와도 접촉한 것으로 전해졌다.

유럽도 상황은 마찬가지다. 지난해 9월 스페인 남부 알멘드랄레조 마을에서도 여학생 20여명이 본인의 얼굴이 있는 가짜 나체 사진을 메신저 앱으로 받아 충격을 받는 일이 있었다. 피해자가 SNS에 노출한 사진을 생성형 AI 앱에 넣어 나체 음란물로 변환한 것으로, 그야말로 가짜 사진이었다. 피해자 중에는 11세 소녀도 있었다. 일부 피해자는 집 밖에도 나가기 어렵다며 심리적 충격을 호소하기도 했다.

피해 학생 부모들은 지원 그룹을 구성하고 경찰에 고소장을 제출했으며 스페인 경찰은 이와 관련한 수사를 지금까지 진행하고 있다. 신원이 확인된 가해 용의자들 10여명은 대부분 12~14세의 미성년자다. 이들은 왓츠앱, 텔레그램 등 온라인 메신저를 통해 가짜 음란물 사진을 유포했다.

한국에서도 교내 딥페이크 음란물 생성, 유포 범죄가 발생하고 있다. 교육계는 이를 AI를 활용한 이른바 '신종 학교폭력'으로 보고 있다.

최근 부산 소재 중학교 3학년 여학생의 얼굴에 다른 여성의 나체가 합성된 음란물이 유포됐고 범인이 같은 학교 남학생이라는 사실을 확인했다는 한 아버지의 사례가 방송에 소개됐다. 충북 진천에서도 중학교 3학년 남학생 5명이 또래 여중생 5명과 같은 학교 여교사 2명의 사진을 활용해 가짜 나체 사진을 만들어 유포한 혐의로 경찰 조사를 받았다.

한국에서는 딥페이크 음란물 사건이 발생하면 성폭력범죄의 처벌 등에 관한 특례법을 적용한다. 해당 법에 따르면 사람의 얼굴·신체·음성을 대상으로 한 촬영·영상물 등을 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성·가공할 경우 5년 이하의 징역이나 5000만 원 이하의 벌금에 처한다.

정현진 기자 jhj48@asiae.co.kr