[AI스피커의 그림자②]당신의 음성은 지금도 녹음되고 있다

네이버의 AI스피커 '클로바 프렌즈 미니'

호출 전 주변 소리도 청취.. 저장은 하지 않아
스피커 명령어는 비식별화 처리로 보안 유지
해킹 시도에 뚫리기도.. 보안 사고 위험 상존
"IT업체들, 보안보다 기능에만 관심" 비판도

[아시아경제 한진주 기자, 조한울 기자] 인공지능(AI) 스피커 사용자가 늘어나면서 해킹이나 보안 사고 발생 우려도 커지고 있다. 사용자로부터 나온 음성 정보가 플랫폼 사업자ㆍ서비스업체 등 다양한 곳으로 공유되는 특성 때문이다. AI 스피커가 실제 명령어가 아닌 소리에 반응해 작동하거나, 주인이 모르는 사이 대화 내용을 녹음해 제3자에게 전송하는 일도 벌어졌다.

최근 UC버클리대 연구진은 고주파대 음역을 활용해 AI 스피커를 해킹하는 실험에 성공했다. 사람이 들을 수 없는 고주파를 활용해 AI 스피커에 명령을 내리면 이용자 모르게 전화를 걸거나 메시지를 보낼 수 있다는 게 증명된 것이다.

미국 오리건주에서는 아마존의 AI 스피커 '에코'가 부부의 대화 내용을 녹음해 타인에게 전송하는 사고가 발생했다. 부부는 이런 사실을 인지하지 못했다. 에코가 대화 속 특정 단어를 명령어로 인식한 탓이었다.

이 같은 특수한 사례가 아니라도, 사용자들은 자신이 AI 스피커와 혹은 스피커 주변에서 나눈 대화가 어디에 얼마나 저장되고 사용되는지 정확히 모르는 경우가 대부분이다.

기본적으로 국내 출시된 모든 AI 스피커는 작동하지 않을 때도 주변의 소리를 '듣고' 있다. 이런 음성정보를 어떻게 처리하는가는 업체마다 다르지만 기본적으로 저장하지는 않는다. 스피커를 호출해 '깨운 뒤' 나눈 대화는 저장ㆍ분석된다. 이 데이터는 사용자별 맞춤형 서비스 제공이나 AI 스피커 기능 개선 등에 쓰인다. 다만 특정 음성정보가 '누구'의 것인지 모르게 처리하므로(비식별화) 개인정보 유출 걱정은 없다는 게 업체들의 설명이다. 당연히 비식별화 된 정보인 만큼, 본인이나 수사기관이 음성정보를 요청해도 업체는 찾아줄 수 없다. 그러나 이런 방식은 어디까지나 업체마다 정하는 '정책'일 뿐 어떻게 해야 한다는 규정이 있는 건 아니다.

AI 스피커에 저장된 음성 데이터 보관기간은 업체마다 다르다. 네이버의 경우 24개월간 보관한다. SK텔레콤과 KT도 동일하다. 카카오는 명령한 음성 데이터를 회원이 탈퇴할 때까지 보관한다. 대신 카카오톡ㆍ보이스톡 관련 정보는 서버에 2~3일간 보관한 후 삭제한다.

아마존과 구글은 음성 명령을 계정과 연동시켜 보관한다. 대신 이용자가 녹음된 내용을 확인하거나 삭제할 수 있다. 삭제하지 않을 경우 해당 음성 정보는 계속 보관된다. 애플의 경우 음성 명령과 계정을 연동시키지 않지만 음성 정보에 임의의 식별자를 부여해 6개월간 보관한다.

네이버 관계자는 "음성 명령 수집 후 서비스 장애나 문의 응대를 위해 일주일 이내에 계정과 음성 간 연동을 끊어 분리 보관하고 있다"며 "일주일이 지난 시점에는 계정과 음성 명령 간 연동을 삭제하기 때문에 아마존ㆍ구글과 같이 이용자들에게 본인의 음성을 듣고, 삭제할 수 있는 기능은 제공하지 않는다"고 설명했다.

국내에서는 음성 등을 수집할 때 지켜야 할 기준은 마련돼 있지만 AI 스피커와 관련된 보안 조치는 전적으로 기업에 맡기고 있다. 방송통신위원회는 '바이오 정보 가이드라인'을 통해 사업자가 ▲바이오 정보 수집ㆍ이용 목적 ▲수집하는 정보의 항목 ▲바이오 정보의 보유ㆍ이용 기간 등에 대해 알리고 동의를 받도록 하고 있다.

최상명 하우리 실장은 "해외 기업들은 AI 스피커의 취약점을 찾아내는 데 적극적이지만, 국내의 경우 주요 제조사를 제외하면 보안보다 성능을 높이는 데 더 주력하는 게 문제"라며 "한때 IP 카메라로 촬영한 사생활이 유출되는 사고가 있었던 만큼 보안 관련 인증제 등을 만드는 작업에 착수할 필요가 있다"고 말했다.

한진주 기자 truepearl@asiae.co.kr
조한울 기자 hanul0023@asiae.co.kr