선관위, 딥페이크 이용 선거운동 첫 고발..."李·金 허위 이미지 생성"

딥페이크 선거운동 금지 법 제정 이후 처음
유튜브 채널 운영자 3명 고발...'후보자 죄수복'

중앙선거관리위원회는 29일 제21대 대통령선거 후보자와 관련한 딥페이크물(인공지능 생성 허위 조작물)을 제작·유포한 유튜버 등 3명을 공직선거법 위반 혐의로 고발했다. 2023년 12월 관련 법규가 제정된 뒤 선관위가 딥페이크물 제작 유포자를 고발한 첫 사례다.

연합뉴스

중앙선관위는 이날 보도자료를 통해 "선거가 임박한 시기에 후보자의 당선 또는 낙선 목적으로 인공지능(AI) 기술을 이용해 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상을 제작·게시한 유튜브 채널 운영자 3명을 선거법 위반 혐의로 수사기관에 고발했다"고 밝혔다.

중앙선관위에 따르면 고발당한 3명은 주로 이재명 더불어민주당 대선후보와 김문수 국민의힘 대선후보와 관련된 딥페이크물을 제작했다. 구체적으로 특정 인터넷 커뮤니티 게시판에 후보자가 죄수복을 입고 감옥 안에 수감된 이미지 등을 총 35회 게시한 혐의를 받는다. 또 다수가 구독하는 유튜브 채널에 AI로 구현한 여성 아나운서를 이용해서 뉴스 형식으로 후보자의 당선 또는 낙선을 도모하는 내용으로 제작한 10건의 영상을 게시한 혐의, 개인 사회관계망서비스(SNS)에 특정 후보자에 대한 부정적인 이미지를 주는 글·영상을 딥페이크로 제작해 게시·유포한 혐의도 있다.

공직선거법은 선거일 전 90일부터 선거일까지 선거운동을 위해 딥페이크를 제작·편집·유포·상영 또는 게시해선 안 된다고 규정하고 있다. 이를 위반할 경우 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.

중앙선관위는 "대선이 일주일도 남지 않은 만큼 사이버상 위법행위 단속에 역량을 집중하고 있다"며 "유권자가 AI를 활용해 영상이나 이미지를 제작·활용할 때 선거법에 위반되지 않도록 각별한 주의가 필요하다"고 당부했다.

장보경 기자 jbg@asiae.co.kr