"어? 진짜 아니였어?" AI 시대 양날의 검 '딥페이크' [임주형의 테크토크]

AI 이용 영상 합성 기술 '딥페이크' 보편화
내부고발자 보호·영화산업 등 긍정적 활용 전망
'딥페이크 음란물' 등 범죄 이용 우려도

과연 누가 진짜일까. 인공지능 딥페이크 기술을 활용해 배우 알렉 볼드윈(왼쪽)과 도널드 트럼프 미국 대통령을 합성한 영상.사진=유튜브 캡처

[아시아경제 임주형 기자] 인공지능(AI)을 활용한 영상 편집 기술 '딥페이크'는 이제 어디서든 쉽게 찾아볼 수 있습니다. 유튜브의 밈(meme·인터넷에서 유행하는 문화 현상)으로 활용되는가 하면, 가짜 배우를 구현해 영화에 출연시키기도 합니다. 하지만 실체를 구분할 수 없는 매우 정교한 딥페이크 기술이 보급되기 시작하면서, 가짜뉴스·음란물 등에 악용될 수 있다는 우려도 점차 커지고 있습니다.

딥페이크는 AI 알고리즘 가운데 하나인 '생성적 적대 신경망'(GAN) 기술을 이용한 합성 기술입니다. 주로 사람의 얼굴 위에 컴퓨터그래픽(CG)으로 만든 다른 얼굴이나 이미지 등을 덧씌우는 방식으로 사용됩니다.

이같은 합성은 이전에도 가능했지만, 영상 프레임마다 수작업을 해야 했기 때문에 시간이 오래 걸리고 품질도 조악했습니다. 하지만 딥페이크는 AI가 알고리즘을 통해 자동으로 영상을 합성, 신속한 작업이 가능합니다.

또 '딥페이스랩', '페이크앱' 등 딥페이크 소프트웨어 기능을 지원하는 사이트도 늘고 있다보니 일반인이 딥페이크 기술에 접근하는 것도 용이해졌습니다.

딥페이크가 우리 사회에 보편화하면서 사회적 파급력도 점차 커지고 있지만, 이로 인한 순기능과 역기능도 명확해지고 있습니다. 앞으로 다가올 이른바 'AI 시대'의 명과 암을 드러냈다는 지적이 나오는 이유입니다.

순기능을 보면, 딥페이크는 신상정보가 드러나면 일자리·생명 등을 위협받을 수 있는 내부고발자를 보호할 수 있다는 점에서 매우 유용합니다.

지난 6월 공개된 다큐멘터리 '체체니아에 오신 것을 환영합니다'는 딥페이크 기술을 이용해 인권운동가를 보호한 사례로 손꼽힌다. / 사진=인터넷 커뮤니티 캡처

앞서 지난해 6월 미국에서 공개된 다큐멘터리 '체체니아에 오신 것을 환영합니다(welcome to chechnya)'는 딥페이크를 이용해 내부고발자를 보호한 대표적인 순기능 사례입니다. 이 다큐멘터리는 러시아 정부의 성소수자 탄압 정책을 고발하는 내용을 그리고 있는데, 당시 러시아 내부에서 활동하던 성소수자 인권 운동가들의 얼굴이 드러나 신상이 탄로날 수 있다는 우려가 있었습니다.

이때 제작진들은 영상 내 모습이 드러나는 인권 운동가들의 얼굴에 딥페이크를 이용한 CG를 덧씌우자는 아이디어를 냈고, 덕분에 다큐멘터리는 안전하면서도 성공적인 촬영을 마칠 수 있었습니다.

미 엔터테인먼트 기업 디즈니 사가 공개한 고해상도 딥페이크 기술 / 사진=디즈니리서치

딥페이크는 엔터테인먼트 업계에서도 큰 잠재력을 드러내고 있습니다. 미국 디즈니연구소는 지난해 100만 픽셀급으로 해상도를 높인 초정밀 딥페이크 동영상을 공개한 바 있습니다. 해상도가 낮아 큰 화면에서는 합성 티가 날 수밖에 없었던 기존 딥페이크 소프트웨어의 한계를 극복하면서, 상업영화 스크린에 딥페이크를 적용할 수 있는 가능성을 실현한 겁니다.

딥페이크를 활용하면 특정 배우의 젊은 시절이나 늙은 모습을 재현하거나, 세상을 떠난 배우를 다시 등장시키는 일도 가능해집니다.

반면 딥페이크를 활용한 범죄도 기하급수적으로 늘고 있습니다. 이미 지난해부터 딥페이크를 이용, 연예인이나 일반인 얼굴을 음란물 영상에 합성하는 이른바 '딥페이크 음란물'이 제작되기 시작했습니다.

네덜란드 사이버보안 연구기업 '딥트레이스'가 지난해 6월3일 공개한 보고서에 따르면, 온라인상에 존재하는 딥페이크 영상은 지난 2018년 7964개에서 2019년 1만4678개로 2배 가까이 폭증했습니다. 이 가운데 96%(1만4090개)는 딥페이크 음란물이었습니다.

텔레그램 메신저에서 조주빈을 도와 성 착취물 제작·유포에 가담한 혐의로 구속된 '부따' 강훈이 지난해 4월17일 종로경찰서에서 검찰로 송치되고 있다. / 사진=연합뉴스

국내에서도 딥페이크 음란물은 이미 사회적 문제로 떠오르고 있습니다.

메신저 '텔레그램'에 모인 이들이 성착취 동영상을 제작, 돈을 받고 유포했던 'n번방' 사건 당시, 일부 피의자들은 딥페이크를 이용해 여성 사진을 다른 음란물에 합성한 뒤 유포하는 이른바 '지인능욕' 범행을 벌여 사회적 공분을 샀습니다. 이같은 딥페이크 음란물 제작·유포에 가담하던 강훈(18) 씨에 대해 검찰은 지난달 8일 징역 30년을 구형한 바 있습니다.

이렇다 보니 딥페이크의 역기능을 막기 위한 취지의 법안도 도입되고 있습니다. 지난해 6월부터 시행된 '성폭력범죄의 처벌 등에 관한 특례법' 개정안은 딥페이크 관련 범죄에 대해 처벌하는 규정을 만들었습니다.

해당 법안에 따르면, 딥페이크를 이용해 얼굴·신체 등을 합성한 음란물을 제작·반포할 경우 5년 이하 징역 또는 5000만원 이하 벌금형에 처해질 수 있습니다. 특히 영리를 목적으로 딥페이크 음란물을 제작·반포한 범죄자는 7년 이하 징역으로 가중 처벌할 수 있도록 했습니다.