라온시큐어, AI 기반 딥페이크 탐지 모바일 앱 출시…누구나 쉽게 탐지

라온시큐어가 누구나 쉽게 인공지능(AI) 기술로 딥페이크를 탐지해낼 수 있는 모바일 앱을 출시해 딥페이크 범죄 근절에 기여한다.

IT 보안·인증 플랫폼 기업 라온시큐어(대표 이순형, 이정아)는 누구나 모바일 앱으로 딥페이크 동영상이나 이미지를 탐지할 수 있는 기능을 자사 개인용 모바일 백신 앱인 ‘라온 모바일 시큐리티’에 탑재했다.

라온시큐어는 생성형 AI 기술이 점차 고도화 되고 쉽게 접할 수 있는 만큼 심각한 문제로 받아들여지고 있는 딥페이크 범죄 근절에 동참하고자 딥페이크 탐지 기술을 개발했다. 실제로 지난해 1월부터 11월까지 경찰청에 접수된 딥페이크 성범죄 신고 건수는 1000여건에 육박하며 정부에서는 딥페이크 범죄 예방책 등을 담은 AI 기본법 제정에 속도를 내고 있다. 라온시큐어의 딥페이크 탐지 기술을 통해 누구나 특정인에 대한 명예훼손과 가짜 정보로 인한 사회 혼란을 예방하는 데 기여할 수 있으며, 개인과 기업의 자산과 정보 편취로부터 사전에 대응할 수 있다.

라온 모바일 시큐리티는 AI 기반 스미싱 탐지 및 악성앱 탐지, 해킹 방지 등을 제공하는 개인용 모바일 백신 앱이다. 라온시큐어는 이 앱에 자체 개발한 AI 기반 딥페이크 탐지 기능을 추가했다. 이용자들은 라온 모바일 시큐리티에 스마트폰에 저장된 동영상이나 이미지, 유튜브 링크 등을 업로드 하면 해당 콘텐츠가 생성형 AI로 조작된 딥페이크일 가능성이 얼마나 높은지 몇 초 만에 알 수 있다.

라온 모바일 시큐리티에 탑재된 딥페이크 탐지 기술은 합성된 얼굴과 실제 얼굴을 상호 비교해 분류하도록 학습된 AI가 안면 추출, 주파수 계열 변환 등의 기술을 이용해 얼굴 형태 및 눈·입모양의 부자연스러움을 찾아내는 여러 모델을 사용해 높은 정확도로 딥페이크 가능성을 계산한다. 라온시큐어는 추후 실시간 딥페이크 탐지 서비스도 라온 모바일 시큐리티에 추가할 계획이다. 이를 통해 영상통화 시에도 상대방이 조작된 얼굴로 지인을 사칭하는지 실시간으로 탐지할 수 있게 된다. 현재 라온 모바일 시큐리티는 딥페이크 탐지 기능을 포함해 무료로 이용할 수 있으며, 향후 더욱 고도화된 유료 딥페이크 탐지 기능도 제공할 예정이다.

라온시큐어는 자사 딥페이크 탐지 기술을 기업용 애플리케이션 프로그래밍 인터페이스(API) 서비스로도 제공할 예정이며 목소리로 타인을 사칭하는 딥보이스 탐지 기술도 개발하고 있다. 향후 금융기관, 공공기관, 이동통신사를 비롯해 다양한 기업에 딥페이크 및 딥보이스 기술을 제공해 임직원이나 고객 사칭으로 인한 기업의 피해와 고객의 피해를 방지할 수 있도록 할 방침이다. 또한 기업들이 라온시큐어의 기술을 통해 딥페이크 생성물을 구별해 내 AI 생성물 표시 의무화 규정을 지킬 수 있게 할 계획이다.

이정아 라온시큐어 대표는 “AI를 접목한 보안 기술을 오랜시간 연구해 온 라온시큐어는 심각한 딥페이크 범죄 대응이 절실한 사회, 그리고 정보자산과 고객보호가 절실한 고객사들의 필요에 부응하기 위해 딥페이크 탐지 기술을 개발했다”며 “라온 모바일 시큐리티를 통한 딥페이크 탐지 기술 제공을 시작으로 딥보이스 탐지, 실시간 탐지 등 기술 고도화를 지속해 범죄 예방과 고객사들의 경쟁력 강화에 기여하겠다”고 말했다.

장효원 기자 specialjhw@asiae.co.kr