[총선에 스며든 AI]②허위 정보, AI발 쓰나미 몰려온다

딥페이크 영상 활용 선거운동 금지됐지만
AI 기술 진보·활용도 증가… 규제 범위 견해 엇갈려
AI와 매크로 결합, 댓글 조작 프로그램도 등장
EU에선 규제 안따르면 전세계 매출액 6%내 벌금

"오는 13일 대만 총통 선거를 앞두고 딥페이크(Deepfake)부터 숨 가쁜 틱톡 영상까지, 허위 정보 물결이 대만 유권자들을 타격하고 있다."(AFP통신)

대만 대선에 전 세계의 시선이 집중된 가운데 AFP통신은 10일 대만 대선을 앞두고 유권자들이 친중 허위 정보 홍수에 직면해 있다고 보도했다. 허위 정보는 대만이 중국의 일부라는 주장에 반대하는 독립 성향 대만 집권 민주진보당(민진당)의 라이칭더 총통 후보에 집중됐다. 배후로 중국이 지목되고 있다. 중국은 '허위 정보 캠페인은 루머일 뿐'이라고 일축했다. 세계는 허위 정보 홍수 속에 유권자들의 표심이 어디로 향할지 주목하고 있다.

4.10 총선은 AI 선거 서막, 돌발 변수 될 가능성

딥페이크·가짜뉴스를 포함한 갖가지 허위 정보가 온라인 플랫폼에 난무하면서 유권자들이 혼돈에 빠진 대만의 최근 상황은 '인공지능(AI) 선거'의 위험성을 보여주는 축소판이다. 오는 4월10일 총선을 불과 3개월 앞둔 한국에서도 AI가 돌발 변수로 작용할 수 있다는 전망이 나오는 배경이다. 조원용 중앙선거관리위원회 선거연수원 교수는 "후보자만 1000명 이상인 총선은 AI 선거의 서막"이라며 "소수의 후보가 치열히 경합하는 2027년 대선은 불꽃 튀는 AI 전쟁이 될 것"이라고 경고했다. 선관위는 딥페이크가 영향을 미칠 영역은 후보자 '개인'에 대한 인물·능력·도덕성 부분이 가장 크며, 정책과 공약 영역은 선거별로 정도가 다를 것이라고 분석했다.

우리나라는 선거 90일 전부터 딥페이크를 활용한 선거운동을 못 하도록 하는 공직선거법 개정안이 지난달 국회 본회의를 통과했다. 이에 따라 오는 29일부터 딥페이크로 만든 홍보 영상 등을 활용한 선거 운동이 전면 금지된다. 하지만 선거를 둘러싼 AI 논쟁은 첫발을 뗀 데 불과하다. AI 기술의 진보와 활용도 증가에 따라 딥페이크 규제를 어디까지 허용할 것인가에 관해 전문가의 견해는 엇갈리고 있다. 공정한 선거를 위협하고 심리전 무기로도 활용될 수 있는 만큼 강력하게 규제해야 한다는 입장과 지나친 규제는 언론·표현·영업의 자유를 제한할 수 있다는 의견이 팽팽히 맞서고 있다.

챗GPT 생성형 AI에 매크로 결합, 댓글 조작도

가짜뉴스·딥페이크뿐만이 아니다. 최근에는 챗GPT 등 생성형 AI에 명령을 자동 반복하는 매크로 프로그램이 결합해 정교한 가짜 댓글을 달아주는 프로그램까지 등장했다. 문제는 이런 허위 조작정보가 공직선거와 만났을 때다. 댓글 생성 프로그램을 통해 대대적인 댓글 조작에 나설 경우 여론몰이에 악용될 소지가 충분하다. 현재 인터넷 포털 사이트를 검색해보면 "생성형 AI로 유튜브·연설문 작성은 물론 효율적인 선거 운동까지 한 번에 해결해 준다" "마치 사람처럼 자동으로 댓글을 달아주는 프로그램을 판매한다" 등 AI를 활용해 영업하는 게시물을 어렵지 않게 발견할 수 있다. 조원용 교수는 "AI 기술이 나날이 진보하고 이를 활용한 비즈니스가 새롭게 생겨나고 있다. 이를 탐지하고 식별하는 기술도 발전하지만 그 속도를 따라가는 데 한계가 있다. 이런 이유로 공직선거에서 딥페이크 기술을 활용하는 것에 대한 규제가 필요하다"고 주장했다.

AI 기술의 발전에 따라 빅테크(대형 정보기술 기업)의 행보도 빨라지고 있다. 최근 네이버(NAVER)는 최수연 대표이사 직속 조직으로 AI 안전성 연구를 전담하는 조직인 '퓨처 AI 센터'를 신설했다. 국제사회에서 AI의 안전성과 신뢰성을 높이기 위한 움직임이 활발하게 펼쳐지는 상황에 뒤지지 않기 위해서다. 이 조직은 AI 안전성을 높이는 기술 연구를 비롯해 AI 윤리 정책도 수립한다. 100여명이 투입돼 네이버의 AI 거대언어모델(LLM)인 하이퍼클로바X의 서비스 개발과 리스크 관리에 나서며 기술 연구를 고도화할 방침이다. 곽대현 네이버 이사는 "오는 4월 총선 대응뿐만 아니라 전반적인 AI 안전성 강화를 위한 조직"이라며 "이달 말 향후 계획 등 구체적인 방향을 제시할 계획"이라고 말했다.

카카오는 총선을 앞두고 유해 콘텐츠를 필터링하는 기술에 대한 연구를 강화한다. AI 콘텐츠 건강성 관련 연구 차원에서 허위정보 혹은 딥페이크를 검출하는 방향의 연구를 진행 중이며, 별도로 AI 어뷰징과 관련해 기술적으로 대응하기 위한 팀을 운영하고 있다. 특히 생성형 AI 이미지 차원에서는 카카오브레인의 이미지 생성 모델인 '칼로(Karlo)'에 비가시성 워터마크 기술을 검토 중이다. 비가시성 워터마크는 이용자에게는 워터마크가 보이지 않으나 기술적으로는 '칼로' 생성 여부를 알 수 있는 기술이다. 구글에서도 해당 기술을 연구·운영하고 있다.

EU, 온라인플랫폼 규제 미준수 시 전 세계 매출액 6% 벌금

일각에서는 AI 기술 오용의 부작용이 크게 우려되는 상황에서 온라인 플랫폼에 대한 규제가 보다 강화돼야 한다는 지적이 나온다. 선관위에 따르면 2020년 21대 국회의원 선거에 관한 유권자 의식조사에서 포털, 홈페이지 등 인터넷으로 후보자 선택에 필요한 정보를 획득했다는 응답이 43.4%로 절반에 달했다. 허위 정보가 활용될 가능성이 가장 큰 영역이 포털, 홈페이지 등 인터넷과 소셜미디어라는 얘기다.

현재 유럽연합(EU)은 '디지털서비스법'이 있어 대형 온라인 플랫폼과 대형 온라인 검색엔진은 EU 역내에 미치는 불법 정보 유포, 기본권 침해·시민 담론·선거·공공안전 등의 부정적 영향에 대한 구조적 위험을 적어도 해마다 1회는 확인·분석·평가토록 하고 있다. 또 허위로 조작된 정보에 대해 분명한 식별 조치를 의무화할 뿐만 아니라 이를 이행하지 않는 대형 온라인 플랫폼·검색엔진에 대해서는 전 세계 매출액의 6% 내에서 벌금을 부과하도록 강력히 규제하고 있다.

국회입법조사처 최진응 입법조사관은 "우리나라도 앞으로 '딥페이크를 활용한 선거운동'의 개념과 규제 방향을 명확히 하고 AI 기술에 기반한 합법적인 선거운동에 대한 명확한 기준을 마련할 필요가 있다"면서 "엄격한 법적 규제가 자유로운 정치적 표현 또는 언론의 공익적 보도를 위축시킬 수 있다는 지적도 있는 만큼 규제 대상에 대한 구체적 범주를 설정해야 한다"고 강조했다.