[총선에 스며든 AI]①선거의 해, 스윙보터 노리는 딥페이크

29일부터 딥페이크 선거 운동 금지
공직선거 악용시 부작용 일파만파
위반시 7년 이하 징역·벌금
美도 AI 규제 행정명령
EU는 기술오용 차단 논의 진행

가짜지만 진짜 같은 조작 기술 딥페이크(Deepfake) 전쟁이 선거판을 뒤흔들고 있다. 무엇이 진짜이고, 가짜인지 경계가 흐릿해지는 순간 가짜가 진짜로 탈바꿈하면서 유권자의 판단력은 흐려지고 돌이킬 수 없는 선택으로 이어진다. 딥페이크는 전문가도 조작 여부를 쉽게 판단할 수 없어 공직선거 등에 활용된다면 부작용이 일파만파로 커질 수 있다.

우리나라에서는 2022년 대선에서 국민의힘 윤석열 후보가 'AI 윤석열'을 통해 대중 친화적인 이미지를 홍보한 사례가 대표적이다. 이후 경각심을 불러일으킬 만한 사례가 국내에서 크게 부각되진 않았지만 해외에서는 최근 딥페이크가 중요 선거에서 최대 변수 중 하나로 자리 잡았다. 앞서 미국 대선에서 조 바이든 당시 후보가 선거유세하는 주(州)를 오인하거나, 인터뷰 중 졸고 있는 딥페이크 영상이 도널드 트럼프 당시 후보자 지지자들을 중심으로 유포돼 문제가 됐다. 최근 슬로바키아에서는 선거를 며칠 앞두고 자유주의 진영 후보가 맥주 가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 인공지능(AI) 생성 오디오 녹음이 사실인 것처럼 확산하면서 물의를 빚었다. AP통신은 지난달 26일(현지시간) "올해 미국 대통령 선거는 클릭 몇 번으로 몇 초 만에 가짜를 만들어낼 수 있는 정교한 AI 도구가 나온 이래 치러지는 첫 번째 선거가 될 것"이라고 내다봤다.

딥페이크 규제하는 공직선거법 국회 통과

딥페이크는 딥러닝의 '딥(Deep)'과 가짜라는 의미의 '페이크(Fake)'를 합친 신조어다. 2017년 레딧(Reddit) 커뮤니티에서 'Deepfakes'라는 아이디를 가진 회원이 조작 영상을 올리면서 사용되기 시작했다. 조원용 중앙선거관리위원회 선거연수원 교수는 "지난해 발간된 한국공법학회 '공법연구'에 실린 논문에서 딥페이크 기술이 하루가 다르게 발전하고 있다"며 "공직선거에서 악용된다면 민주공화국의 근간을 흔드는 중차대한 범죄가 될 가능성이 있다"고 경고했다.

딥페이크 부작용이 우려되는 만큼 국내외에서는 입법적 대응이 시작됐다. 우리나라에서도 오는 4월10일 총선을 앞두고 딥페이크 악용을 방지할 최소한의 법적 장치가 마련됐다. 지난달 20일 선거 기간 중 딥페이크 영상 등을 무분별하게 활용해 선거운동을 펼치는 것을 규제하는 내용의 '공직선거법' 개정안이 국회 본회의를 통과했다. 남인순 국회 정치개혁특별위원장(더불어민주당)은 "AI를 활용해 이미지·영상 등을 합성해 진짜처럼 만드는 딥페이크 기술을 이용한 허위사실 유포 행위는 유권자의 판단을 왜곡할 수 있다. 이 법안은 선거 기간에 AI 기술을 무분별하게 활용하는 행위를 규제하기 위한 것"이라고 말했다.

이에 따라 선거 90일 전부터 선거일까지 선거운동을 위해 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시할 수 없다. 오는 29일부터 시행된다. 선관위 관계자는 "원칙대로라면 11일부터 적용해야 하는데 법에 부칙 조항을 둬서 29일부터 시행한다"고 설명했다. 만약 이를 위반하면 7년 이하 징역 또는 1000만~5000만원 이하 벌금에 처한다. 전문가들은 공직선거에서 딥페이크 악용에 대한 입법적 대응의 첫발을 뗐다는 점에 의의를 두고 있지만, 학계에서는 이제 '논의의 시작'이라는 반응을 보인다. 이미 2017년 옥스퍼드대에서는 대상 인물의 사진 한 장과 음성 파일 하나면 '가짜' 영상을 제작할 수 있다는 결과를 도출했다. 이제 사진 단 한 장만으로 누구든 딥페이크 기술의 대상이 될 수 있으며, 이게 공직선거 등에 악용될 경우 대통령선거부터 총선, 지방선거에 이르기까지 그 영향이 일파만파 확산할 수 있는 만큼 정치권의 적극적인 관심이 필요하다는 지적이다.

월스트리트저널은 이런 딥페이크가 온건파나 스윙보터(swing voter·누구에게 투표할지 결정 못 한 유권자)에 더욱 큰 영향을 미칠 수 있다고 언급했다. 온건파나 스윙보터의 경우 딥페이크에 주목하고, 콘텐츠가 그럴듯해 보이면 선호도를 바꿀 가능성이 크기 때문이다. 조 교수는 "정치인의 선호도가 분명하지 않은 상황에서 설득력 있는 딥페이크가 등장할 경우 유권자의 인식을 뒤흔들 수 있다"고 말했다.

특히 실제 후보자가 자신의 잘못된 행동이나 실언을 덮기 위해 딥페이크라고 주장하는 경우에도 진위를 감별하기 쉽지 않다. AI 기술의 발달로 전문가가 진위를 판별하기에도 시일이 걸리는 데다, 선거 직전 딥페이크 영상을 보고 투표를 한 경우 되돌릴 수 없는 선택으로 이어질 위험이 크다는 점도 우려 요인이다. 민심의 향방을 가늠하기 어려운 상황에서 선거를 앞두고 딥페이크가 우후죽순 등장할 경우 선거 판세를 뒤흔들 변수가 될 가능성도 있다.

美·EU 대응 나서…고도화되는 기술 대응 필요

각국 정부도 대응에 나섰다. 바이든 미 대통령은 지난해 10월 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'에 서명했다. 바이든이 서명한 행정 명령에는 개인 정보부터 미국 국가 안보에 이르기까지 다양한 분야에서 AI의 위협을 규제하는 내용이 담겼다. 바이든 대통령은 "나도 내 딥페이크를 본 적이 있다"면서 "나는 '내가 도대체 언제 저렇게 발언했지'라고 (스스로) 말하기도 했다"고 전했다.

최진웅 국회입법조사처 입법조사관은 "미국은 일부 주법에서 불법적인 딥페이크 선거운동의 범위와 기준에 대한 규정을 두고 있다"면서 "유럽연합(EU)의 경우에는 딥페이크 선거운동을 특정한 규제 논의보다는 딥페이크 기술의 오용을 막기 위한 일반법적 차원의 규제 논의가 진행되고 있다. 앞으로 딥페이크 선거운동의 합법적인 활용 기준 등에 대한 구체적인 논의가 필요하다"고 강조했다. 아직 국내에서는 딥페이크 영상에 대한 경각심이 크지 않다. 하지만 향후 고도화되는 딥페이크 기술의 발전은 선거뿐만 아니라 우리 사회의 민주주의 발전에 부정적 영향을 미칠 수 있는 만큼 깊은 고민과 대책이 필요하다는 지적이 나온다.