사람 목소리 모방하는 오픈AI 인공지능, 출시 미루는 이유는?

15초 분량 샘플만 있으면 거의 똑같이 모방
출시는 신중하게 접근…“오용 가능성 우려”

오픈AI가 새로운 인공지능(AI) 도구 ‘보이스 엔진’(Voice Engine)을 개발해 공개했다. 사람의 목소리를 모방해 흡사한 음성을 만들어내는 도구다.

오픈AI는 29일(현지시간) 자사 블로그에 올린 ‘인조(Synthetic) 음성의 도전과 기회 탐색하기’라는 제목의 게시물을 통해 보이스 엔진의 사전 실험 결과를 공개했다.

오픈AI는 “2022년 말 보이스 엔진을 처음 개발했으며, 이를 챗GPT의 음성인식·읽어주기 기능과 텍스트-음성 변환 API(응용프로그램 인터페이스)에서 쓰이는 음성 기능 강화에 사용했다”고 설명했다.

이어 “이 기술의 잠재적인 활용 가능성을 알아보기 위해 지난해 말부터 신뢰할 만한 소규모 그룹과 함께 비공개 테스트를 시작했다”며 “이 그룹이 개발한 애플리케이션에 깊은 인상을 받았다”고 덧붙였다.

오픈AI는 “15초 분량의 음성 샘플만 있으면 원래 화자의 목소리와 비슷한 음성을 만들어 낼 수 있다”고 밝혔다. 실제로 이날 오픈AI가 공개한 사람의 음성 샘플과 이를 이용해 보이스 엔진으로 생성한 음성은 구분이 쉽지 않을 만큼 비슷했다.

[이미지출처=연합뉴스]

다만 블룸버그 통신은 “오픈AI가 사람의 목소리를 흉내 낼 수 있는 기능을 공개하며 AI 기술의 새로운 지평을 열었다”면서도 “이는 딥페이크(AI로 만든 영상이나 이미지, 음성 조작물) 위험에 대한 불안감도 일으키고 있다”고 지적했다.

지난 1월 미국에서는 뉴햄프셔주 프라이머리(예비경선)를 하루 앞두고 음성 조작으로 조 바이든 대통령을 사칭한 가짜 전화가 주민들에게 걸려 와 투표 거부를 독려하는 사건이 벌어지기도 했다.

이 때문에 오픈AI는 이 도구의 위험성을 고려해 본격적인 출시 여부에 대해서는 신중하게 접근한다는 입장이다. 회사 측은 “인조 음성 기능의 오용 가능성 때문에 조심스럽게 접근하고 있다”면서 “현재로서는 이 기술을 미리 보여주기(preview)만 하고 널리 출시하지는 않기로 했다”고 밝혔다.

이어 “사람의 목소리를 닮은 음성을 생성하는 것은 심각한 위험을 야기하며, 선거가 있는 해에는 특히 더 그렇다는 것을 인지하고 있다”며 “우리는 미국과 해외 정부, 미디어, 엔터테인먼트, 교육, 시민사회 등 다양한 분야와 협력해 그들의 피드백을 반영하기 위해 노력하고 있다”고 강조했다.

오픈AI는 앞으로 이 도구를 다양한 분야에서 긍정적인 기능으로 활용할 수 있을 것으로 보고 있다. 어린이 교육을 위한 음성 해설 콘텐츠, 실시간 개인 맞춤형 응답 생성 기능, 동영상과 팟캐스트 등의 콘텐츠를 여러 언어로 번역하는 사례 등이다. 실제로 오픈AI가 이날 공개한 언어별 번역본 생성 음성은 화자의 기존 모국어 음성과 거의 비슷했다.

또한 “언어 기능에 영향을 주는 질환을 앓는 환자들을 위한 치료 애플리케이션이나 장애인을 위한 소통 기기에 사용된 사례도 있다”고 오픈AI는 덧붙였다.

최승우 기자 loonytuna@asiae.co.kr