美 공무원들도 당하는 AI 사기…FBI서 음성메시지 주의 경보

美 고위관료 사칭한 사기 급증
지난해 美 전역서 7조원 피해
연예인 사칭 송금 유도 사기도

아시아경제DB

미국 연방수사국(FBI)이 고위관료를 사칭한 인공지능(AI) 사기 음성메시지 피해가 커지고 있다며 미국 공무원들에게 경고했다. 미국에서만 지난해 우리 돈으로 7조원이 넘는 피해가 발생한 가운데 노인세대는 물론 젊은 세대들의 피해도 크게 늘어난 것으로 나타났다. AI 딥페이크 기술이 정교해짐에 따라 유명 연예인을 사칭한 가짜 동영상을 만들어 팬들에게 금전사기를 벌이는 사건까지 발생하고 있다.

FBI "美 고위 관료 사칭 음성메시지 주의" 경고

AFP연합뉴스

CNN에 따르면 15일(현지시간) FBI는 지난달부터 AI 음성메시지를 악용해 미국 고위관료를 사칭한 사기사건이 일어나고 있다며 정부계정 해킹 시도가 지속 발생 중이라 미국 공무원들이 주의해야한다고 경고했다. 아직 배후를 특정할 수 없는 해커들이 미국 정부 관료들과 그들의 지인을 대상으로 접촉을 시도하고 있다는 것이다.

FBI는 "해커들은 먼저 고위관료를 사칭하며 문자메시지와 AI가 생성한 음성메시지를 계속 발송해 신뢰관계를 구축한다. 이후 대화 상대자와 별도의 플랫폼으로 연락하자며 악성 링크를 보낸다"며 "해당 링크에 접속한 사람들은 개인정보가 노출되며 이들은 피해자가 가진 연락처 정보를 이용해 또다른 공무원이나 그들의 측근, 지인들을 표적으로 삼아 피해가 확대되고 있다"고 설명했다.

미국에서는 지난해 4월 보건복지부(HHS)의 IT 부서들에서 가짜 AI 음성메시지를 악용한 사이버 공격을 받은 바 있다. 또한 지난해 10월 미국 대선기간 동안에는 조 바이든 전 미국 대통령의 목소리를 위조한 딥페이크 로보콜(Robocall·자동녹음전화)이 확산돼 논란이 되기도 했다.

젊은 세대부터 노인까지 모두 사기피해…美서 7조 손실

로이터연합뉴스

FBI에 따르면 크고 작은 AI 사기 피해로 인해 지난해 미국 전역에서 발생한 손실금액은 50억달러(약 7조원)에 달하는 것으로 추산됐다. AI로 만든 문자 및 음성메시지, 동영상 등을 통해 정부 고위관료나 대표 등을 사칭한 사기 피해가 커지면서 세대를 막론하고 금전피해를 본 것으로 알려졌다. 피해신고자 중 20~29세 젊은 세대들은 44%, 70~79세 노인세대는 24%가 금전피해를 본 것으로 알려졌다.

사화관계망서비스(SNS)와 음성, 영상통화 등을 이용해 연인관계 행세를 하며 금전을 탈취하는 '로맨스스캠(Romance Scam)' 피해도 커지고 있다. 미국 연방거래위원회(FTC)가 발표한 집계에서 미국 내 로맨스스캠 피해만 13억달러(약 1조8000억원) 규모로 나타났는데 실제 사기사례를 신고하지 않은 경우까지 포함하면 피해규모가 더 클 것으로 예상된다.

일각에서는 온라인 쇼핑몰에서 가짜 리뷰, 추천을 AI로 만들어 올리는 행위까지 늘면서 미 당국도 규제에 나섰다. 지난해 8월 미 FTC는 성명을 통해 "AI 기반으로 한 가짜 소비자 리뷰, 소비자 추천 혹은 유명인 추천을 비롯해 기타 유형의 불공정하거나 기만적 관행을 금지하는 최종규칙을 발표한다"고 밝혔다. 해당 규제는 지난해 10월부터 시행되고 있다.

유명 연예인 사칭한 사기도 활개…사기수법 정교해져

인공지능(AI) 딥페이크 기술로 만들어진 가짜 조지 클루니 동영상 모습. 14일(현지시간) 아르헨티나의 한 여성이 해당 영상에 속아 1만파운드(약 1863만원)를 송금하는 사기를 당했다. 유튜브

AI 딥페이크 기술이 정교해지면서 AI를 통해 유명 연예인의 가짜 동영상을 만들어 팬들에게 금전사기를 벌이는 범죄행위도 늘고 있다. 사진, 음성메시지는 물론 정교한 영상통화 화면까지 만들어 팬심을 자극한 뒤, 송금이나 투자를 유도해 돈을 빼돌리는 사기수법이 전세계적으로 발생 중이다.

영국 데일리메일에 따르면 14일(현지시간) 아르헨티나의 한 여성은 AI로 만든 미국 할리우드 스타 조지 클루니의 가짜 동영상에 속아 1만파운드(약 1859만원)의 금전사기를 당했다. 해당 여성은 SNS를 통해 접근한 해커의 계정을 통해 6주동안 가짜 조지 클루니의 사진과 동영상, 음성통화를 받으면서 이를 진짜로 생각했다. 피해 여성은 "동영상 속 조지 클루니가 아내와 이혼하기 위해 돈이 필요하다고 했고 여기에 속아 돈을 보냈다"고 밝혔다.

앞서 올해 1월에는 프랑스에서 유사한 AI 사기사건이 발생했다. 한 프랑스 여성이 AI로 만들어진 가짜 브래드 피트의 동영상에 속아 70만프랑(약 11억7000만원)을 사기당한 사건이다. 해당 여성은 동영상 속 브래드 피트가 신장암에 걸려 치료비가 필요하다고 말했다며 막대한 금액을 의심없이 보내줬다고 밝혔다. 프랑스 경찰은 나이지리아 국적 해커들의 소행으로 보고 있다.

이현우 기자 knos84@asiae.co.kr