‘백문이 불여일견’이라는 상식이 무너지고 있다. 사진, 그림 등 정지된 이미지의 조작을 넘어 동영상까지 교묘한 조작이 가능해졌다. 지난달 팝스타 테일러 스위프트의 사진을 합성한 딥페이크(Deepfake) 음란 이미지가 소셜미디어에서 급속히 퍼졌다. 딥페이크란 인공지능(AI) 기술을 이용해 기존 인물의 얼굴이나 특정 부위를 합성하는 기술이다. 스위프트의 팬들은 물론이고, 미국 백악관까지 나서서 "매우 우려스럽다"는 반응을 냈다.
올해는 미국을 비롯한 전 세계 76개국에서 선거가 치러지는 ‘선거의 해’다. 딥페이크가 민주주의를 위협할 것이라는 경고는 과장이 아니다. 시각과 귀를 한꺼번에 사로잡는 동영상은 수용자를 쉽게 자극하고 유인한다. 조작과 왜곡은 악의와 친화성이 높다. 스위프트의 이미지를 합성한 딥페이크의 출발점도 미국의 온라인 커뮤니티 포챈(4chan)이었다. 인종차별적 표현, 음모론 등 공격적인 콘텐츠가 활발히 공유되는 곳으로 악명이 높다. 정치는 희망과 통합을 지향해야 하지만, 그보다는 혐오와 차별이 지지세를 얻고 있다. 한국과 미국, 유럽 여느 곳도 다르지 않다. 여성과 외국인, 이교도를 비난하는 이들이 하나같이 득세하고 있다. 증오와 혐오에 기반한 정치는 손쉽게 딥페이크를 이용하려 들 공산이 크다. 더 큰 문제는 딥페이크에 대한 진입장벽이 사실상 무너졌다는 점이다. 챗GPT 개발사 오픈AI는 지난주 텍스트를 동영상으로 만들어주는 AI 시스템을 공개했다.
최근 오픈AI, 구글, 메타, 아마존 등 20개 빅테크 기업들은 딥페이크 영상의 유통을 차단하기로 합의했다. 이들은 "유권자에게 영향을 줄 수 있는 딥페이크를 감지해 라벨(꼬리표)을 붙이겠다"고 했다. 플랫폼의 자정 노력은 평가할 만하지만, 그렇다고 해서 딥페이크의 위협이 영영 사라진 건 아니다. AI를 활용하면 딥페이크 영상에 붙은 꼬리표를 지우는 건 일도 아니다. 해외 한 IT 전문매체는 "삼성전자의 갤럭시S24에 탑재된 ‘AI 지우개’ 기능을 쓰면 워터마크를 손쉽게 지울 수 있다"고 했다. 딥페이크가 유통되는 플랫폼만 비판할 수 없는 이유다. 딥페이크의 역습에 맞서기 위해선 제도(규제)와 플랫폼, 소비자, 그리고 언론 모두의 노력이 필요하다. 정부와 정치권의 규제는 일단 제쳐두자. 제도가 기술의 발전을 앞서간 적은 역사상 단 한 번도 없었다. 그러면 플랫폼의 자정, 언론의 팩트체크 저널리즘, 그리고 소비자의 미디어 리터러시가 남는다.
허위 정보의 유통량은 기하급수적으로 늘고 있으며, 이제는 동영상까지 가세했다. 언론은 취재원의 발언, 자료만을 팩트체크하는 것이 아니라, 온라인상에서 많은 사람들에게 영향을 끼치고 있는 이미지, 동영상도 팩트체크할 책무가 있다. 뉴스 소비자, 디지털 콘텐츠 소비자의 관심도 필요하다. 생소한 정보와 이미지, 영상은 비판적으로 바라봐야 한다. 출처를 확인하고, 다양한 매체를 통해 교차 점검해야 한다. 내가 아는 사람, 내가 속한 커뮤니티, 내가 보는 매체에만 의존해선 안 된다. 허위 정보, 딥페이크에 노출됨으로써 가장 큰 피해와 악영향을 받는 건, 결국 소비자인 자기 자신이기 때문이다.
김동표 콘텐츠편집2팀장 letmein@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>