[개인·기업 노리는 딥페이크 공포①]내 얼굴이 범죄에 이용?…‘필수품’된 탐지 기술

개인과 유명인 대상 성범죄부터 타인 사칭 금전 편취까지 공포 확산
전세계적 제도 정비 및 기술 개발 속도전…일상속 딥페이크 탐지 필요

딥페이크 기술을 악용하는 범죄에 대한 경각심이 고조되고 있다.

#프랑스의 한 50대 여성 A씨는 소셜미디어와 메신저로 자신이 브래드 피트라며 접근해 온 남성과 2년간 교제하며 사랑에 빠지고 남편과 이혼했다. 브래드 피트라 믿는 남자가 암 치료비가 필요하다며 위자료로 받은 12억원을 요구하자 송금했다. 그가 딥페이크 이미지로 브래드 피트를 사칭한 사기꾼임을 알게 된 A씨는 우울증으로 치료를 받았다.

#국내 유명 연예인의 얼굴을 합성한 딥페이크 영상으로 유튜브 도박 채널을 개설해 도박 방송을 하고 참여자들을 모집해 3800억원의 부당 이득을 챙긴 일당이 최근 경찰에 붙잡혔다. 이들은 자신의 얼굴을 인기 연예인의 얼굴로 합성해 시청자들의 흥미를 자극했다.

생성형 AI 기술이 발전하면서 타인의 얼굴로 영상이나 이미지를 만드는 딥페이크 기술을 악용한 범죄들이 속속 드러나며 딥페이크 공포가 확산하고 있다. 정부와 기업의 대응뿐 아니라 개개인 스스로가 경각심을 갖고 일상 속 딥페이크 범죄 대비의 중요성이 부각되고 있다.

지난해 명문대 출신 남성이 동문 여성들의 얼굴을 음란물에 합성한 영상물을 유포한 성범죄가 발각되며 큰 충격을 안겨준 데 이어, 타인의 얼굴을 사칭한 사기행각으로까지 딥페이크 범죄가 확대되고 있기 때문이다. 딥페이크는 개인을 능욕하는 데 이어 대중들을 상대로 금전적, 정신적 피해를 주는 데에도 악용되고 있어 유명인도 일반인도 언제 내 얼굴이 지인에 의해 조작돼 수많은 이들을 대상으로 벌이는 범죄 행각에 이용당할지 불안감에 떨고 있다.

지난해 1월부터 11월까지 경찰청에 접수된 딥페이크 성범죄 신고 건수는 1000여건에 육박한다. 또한 딥페이크를 악용한 사기는 가짜 암호화폐 프로젝트나 도박 참여 유도 등의 형태로 자주 발생한다. 실제 디지털 자산거래 플랫폼 비트겟은 지난해 딥페이크 암호화폐 사기 피해액이 전년보다 두 배 이상 증가한 250만달러 규모에 이를 것이라고 전망했다.

이처럼 심각해지는 딥페이크 범죄에 대응하기 위해 정부에서는 관련 법 제정에 속도를 내고 있다. 최근 최상목 대통령 권한대행 부총리 주재로 열린 ‘주요 현안 해법회의’에서 과학기술정보통신부는 딥페이크 위험 관리 등을 담은 AI 기본법의 하위법령을 상반기 중 조기 완료한다고 밝혔다. 또한 개인정보위원회의 2025년 업무계획에는 딥페이크를 악용한 합성 콘텐츠물 관련 피해자의 삭제요구권 도입이 포함된다.

전세계적으로도 정부와 기업이 나서 관련 법 제정, 딥페이크 탐지 기술 개발 투자하며 대응책 마련에 적극적으로 나서고 있다. 지난해 말 미국 국방부는 딥페이크 탐지 기술을 개발하는 스타트업에 2년간 240만달러를 투자하기로 했다. 앞서 아마존, 구글, 메타, 마이크로소프트 등 빅테크 기업들은 지난해 독일 뮌헨 안보 회의에서 딥페이크 부작용 차단을 골자로 한 합의문을 발표하기도 했다.

특히 정치인, 연예인은 물론 개인 누구라도 타깃이 될 수 있는 만큼 일상 속에서 대비의 중요성이 부각되고 있다. 이러한 정세에 발맞춰 국내 보안 기업도 딥페이크 탐지 기술로 범죄 근절에 나섰다.

최근 IT 보안·인증 플랫폼 기업 라온시큐어는 AI 기술을 통해 모바일 앱으로 딥페이크 동영상이나 이미지를 탐지할 수 있는 기능을 자사 개인용 모바일 백신 앱인 ‘라온 모바일 시큐리티’에 탑재해 공식 상용화했다.

이 앱을 통해 개인 누구나 쉽게 자신의 스마트폰에 저장된 동영상이나 이미지를 업로드 하거나 온라인 영상 링크를 올리면 AI가 해당 콘텐츠의 딥페이크 가능성을 몇 초 만에 확률로 보여준다. 라온시큐어는 앞으로도 딥페이크 탐지 기술 고도화를 지속한다는 계획이다. 자사 기술로 누구나 딥페이크를 악용한 유명인 및 일반인에 대한 명예훼손, 사기, 특정 후보나 연예인에 대한 가짜뉴스 등을 구분해 냄으로써 범죄 근절에 기여할 수 있다는 게 라온시큐어의 설명이다.

전문가들은 이 같은 탐지 기술들은 지속적인 연구개발이 필수라고 입을 모은다. 딥페이크는 끊임없이 학습하고 발전하는 AI 기술인만큼, 탐지 기술이 고도화될수록 공격 기술 역시 고도화되기 때문에 끊임없는 창과 방패의 싸움이 이어질 전망이다.

보안 업계 한 전문가는 “딥페이크 범죄는 나도 언제든 타깃이 될 수 있다는 면에서 딥페이크 탐지 기술은 누구나 일상에서 쉽게 접하는 것으로 자리 잡아야 하고 딥페이크 기술의 발전 속도에 탐지 기술 속도가 뒤처지지 않도록 지속적 연구개발이 필요하다”며 “딥페이크 생성물이 더욱 정교해지는 만큼 정부, 기업, 개인 모두가 경각심을 갖고 제도, 기술, 시민 의식을 동원해 범죄 근절에 나서 스스로와 사회를 지켜야 한다”고 말했다.

장효원 기자 specialjhw@asiae.co.kr