대선 딥페이크 뿌리 뽑는다…선관위, 대규모 감시인력 투입

허위사실 공표·비방 특별대응팀 구성
지난해 4·10 총선 기간 387건 적발

중앙선거관리위원회가 6·3대선을 앞두고 인공지능(AI) 기술을 활용한 딥페이크 허위 콘텐츠 단속을 위해 대규모 인력을 투입했다. 선거에 영향을 미칠 수 있는 주요 대선 후보를 표적 삼은 가짜 영상 및 비방·인신공격 등 의도적인 네거티브 게시물에 집중 대응한다는 방침이다.

15일 선관위에 따르면 최근 내부적으로 선거 관리를 위한 '허위사실 공표·비방 특별대응팀'을 꾸렸다. 이들은 지난 9일 본격적인 모니터링 업무에 돌입해 선거 당일인 오는 6월3일까지 운영을 지속한다. 특별대응팀과 각 17개 시도 선관위에서 운영하는 '사이버 공정선거지원단'을 포함하면 선관위의 딥페이크 허위 콘텐츠 모니터링 자체 인력 규모는 500여명에 달한다.

이들은 대형 온라인 커뮤니티를 중심으로 배포되는 가짜 영상의 파악 및 즉각적인 차단·삭제 등 요청·관리한다. 주로 대선 후보 및 선거에 영향을 미칠 수 있는 허위 딥페이크 영상이 관리 대상이다. 의도를 갖고 반복적인 비방과 명예훼손 등을 목적으로 게재하는 콘텐츠도 단속한다. 선관위 관계자는 "관련 게시물에 대해 고의성 등 혐의를 총체적으로 판단한 후 자체 조사를 거쳐 혐의가 있다고 판단하면 고소·고발까지 대응할 수 있다"고 말했다.

선관위가 대선 기간 대규모 인력을 투입해 단속에 나선 배경에는 최근 생성형 AI 활용이 대중화하면서 진위 여부 판별이 쉽지 않은 딥페이크 콘텐츠가 선거에 직접적인 영향을 미칠 수 있다는 판단에서다. 실제 지난달 26일에는 이재명 전 더불어민주당 대표가 경찰서 유치장에 갇혀 있는 모습이 담긴 딥페이크 영상이 한 동영상 플랫폼에 게시돼 논란이 됐다. 또 국민의힘 대선 후보인 홍준표 전 대구시장, 한동훈 전 대표 등을 희화화하는 가짜 영상들도 각 주요 커뮤니티를 중심으로 빠르게 확산했다.

중앙선관위에 따르면 지난해 4·10 총선 기간인 1월29일부터 4월9일까지 총 387건의 딥페이크 게시물을 적발했다. 국회는 2023년 12월 공직선거법(82조8) 개정을 통해 선거일 전 90일 전부터 선거일까지 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시하는 행위를 금지했다. 이를 위반 시 7년 이하 징역 또는 1000만원 이상 5000만원 이하 벌금에 처하고 있지만, 딥페이크 영상은 지속해서 제작·배포되고 있다.

선관위의 자체적인 단속에도 불구하고 즉각적인 삭제 및 제재 권한이 없는 점은 한계로 지적된다. 허위 영상의 삭제 등의 1차적인 권한은 해당 커뮤니티에 있기 때문이다. 최준선 성균관대 법학전문대학원 명예교수는 "최근 딥페이크 허위 영상에 대한 가짜뉴스로 인해 올바른 판단을 할 수 없게 하는 문제가 커지고 있다"며 "특히 선거 등 특정 기간의 단속과 처벌을 강력하게 할 필요가 있다"고 말했다.

이동우 기자 dwlee@asiae.co.kr