수십개 언어로 "한 표 달라"…10억 인도 총선에 바빠진 AI

5분 영상 넣으면 4분 만에 30건 영상 만들어

인도 총선에서 인공지능(AI)을 도구로 활용한 '초개인화'된 선거 운동이 펼쳐지고 있다.

미국 뉴욕타임스는 18일(현지시간) 오는 19일 유권자가 거의 10억명에 이르는 인도에서 AI 생성형 이미지를 동원해 한표를 호소하고 있다고 보도했다.

인도 선거가 다가오고 있다. [사진출처=AFP/연합뉴스]

인도는 19일(현지시간)부터 오는 6월 1일까지 6주 동안 연방하원 의원을 뽑는 총선을 치른다. 경제 성장을 이룬 나렌드라 모디(73) 총리는 3연임이 유력한 상황이다.

보도를 보면, 왓츠앱에서는 나렌드라 모디 인도 총리가 일련의 유권자들의 이름을 부르며 연설하는 영상을 볼 수 있다. 여당 인도국민당(BJP) 관계자들도 왓츠앱에서 AI 아바타로 특정 유권자들에게 정부 혜택에 관한 개인 메시지를 보내고 투표를 요청한다.

챗GPT와 같은 챗봇으로 구동되는 방식도 있다. 각 정당은 문자 메시지뿐만 아니라 복제된 음성을 사용해 직접 전화를 걸기도 한다. 인도에서는 다양한 언어를 사용하기에 이에 따라 영상도 수십 개의 언어로 자동 생성된다. 정치 지도자의 목소리로 전화를 걸어 지지를 구하는 AI 챗봇 전화 메시지도 가능하다.

"사기성 동영상 나오면…"

나렌드라 모디 인도 총리. [사진출처=EPA/연합뉴스]

이를 위한 광고 요청도 상당하다. 인도의 한 AI 스타트업은 올해 정치권으로부터 받은 AI 아바타 광고 제작 요청이 200건에 이른다고 전했다. 배우들을 위한 아바타 광고를 제작해왔던 이 업체는 이 중 14건을 맡아 작업 중이라고 밝혔다.

해당 영상을 만드는데 필요한 건 오디오 녹음과 프로필 사진 등 약 5분 분량의 자료 정도다. 이를 갖고 오픈 소스 AI 시스템을 활용하면, 4분 만에 약 20건의 개인화된 인사말 비디오를 만들어낼 수 있다. 하루에 제작할 수 있는 분량도 최대 1만건에 다다른다.

뉴욕타임스는 이런 방식이 "앞으로 선거에서 필수 도구가 될 수 있다"고 짚었다. 과거에는 유권자에게 전화를 걸면 전화를 끊곤 했지만, 지금은 AI를 이용해 유권자의 이름을 불러주면 전화를 끊지 않고 관심을 보인다는 것이다.

인도 기술 분석 사이트 미디어나마의 에디터 니킬 파화는 "인도는 유명인을 흉내 내는 사람과 사진 찍는 것을 좋아하는 나라"라며 "만약 총리한테 전화를 받았는데 총리가 그들이 어디 살고 그들의 문제가 무엇인지 아는 것처럼 말하면 사람들은 좋아할 것"이라고 말했다.

문제는 해당 기술의 오용을 막을 수 있는 현실적인 안전장치가 없다는 점이다. 유권자들이 점차 실제와 합성 메시지를 구별하는 데 어려움을 겪을 수 있다는 우려다.

인도 비정부기구 인터넷자유재단(IFF) 프래틱 와그레 집행이사는 "사람들이 정보를 받아들이는 데 있어 이를 한번 표준으로 삼고 나서, 6개월 뒤에 사기성 동영상이 나오면 어떤 일이 벌어지겠는가"라고 우려를 전했다.

인도 선거 [사진출처=AP/연합뉴스 자료사진]

한편, 인도 총선이 44일에 걸쳐 7단계로 28개 주와 8개 연방직할지에서 실시된다. 유권자는 18살 이상 성인 약 9억6800만 명(전체 인구 10억4000여만 명)이다. 전국에 105만 개의 투표소가 6주간 순차적으로 운영되고, 1500만 명의 공무원들이 투표소를 관리한다.

최다득표자 1명이 당선되는 소선거구제로 치러지며, 개표는 투표가 끝난 지 사흘 후인 6월 4 일 시작된다. 전자 개표기를 활용해 같은 날 선거 결과도 나올 예정이다.

김현정 기자 kimhj2023@asiae.co.kr