'미스도쿄대' 꿈꾼다더니 속옷없이 거리활보…일본 유튜버, AI 가짜 논란

논란 커지자 유튜브에서 해당 계정 사용 정지해
생성형 AI 둘러싼 논란 전세계에서 이루어져

최근 일본에서 선정적인 콘텐츠로 높은 조회 수를 낸 여성 유튜버가 '생성형 인공지능(AI)'이라는 주장이 나와 논란이 일고 있다. 지난 16일 산케이신문은 2023년 9월에 개설된 '미스도쿄대'라는 이름의 유튜브 채널에 대해 소개했다. 이 채널은 한 젊은 여성이 공원이나 야외를 혼자 걷는 영상 등을 주로 게재하며, '노브라 산책' 등 자극적인 제목과 더불어 선정적 영상을 올려 물의를 빚고 있다.

무엇보다 해당 채널에 등장하는 여성은 '미스 도쿄대'를 목표로 한다고 소개했다. '미스 도쿄대'란 일본의 대학 동아리 주최로 열리는 대학 콘테스트 수상자를 지칭하는 말로 방송사 아나운서나 탤런트의 등용문이 되기도 한다. 그중에서도 일본 최고의 '엄친딸'로 미스 도쿄대 콘테스트가 가장 주목을 받는다. 해당 유튜브 채널에 올라온 영상 중에는 조회 수 수백만회에 달하는 것도 있다. 채널이 개설된 지 얼마 되지 않았지만, 구독자는 수만 명이다.

생성형 인공지능(AI) 의심을 받는 일본의 한 여성 유튜버. 현재 해당 유튜브 계정은 삭제된 상태다. [사진출처=산케이신문]

채널이 인기를 끌자 영상의 여성에 대해 일부 일본 누리꾼은 문제를 제기했다. 무엇보다 이 여성의 움직이나 얼굴에 대해 "어딘가 부자연스럽다, 딥페이크 기술인 것 같다"고 지적했다. 논란이 확산하자 도쿄대 홍보과 관계자까지 나서 "이 여성에 대해 알지 못한다"고 답했다. 유튜브 또한 사용 원칙 미준수를 이유로 현재 해당 계정을 정지한 상태다.

영상을 본 일본 정보학연구소의 한 교수는 "그림자나 움직임이 매우 자연스럽게 보이지만, 옆얼굴 부분이 잘려 나가는 등 어색한 장면이 많다"며 "생성형 AI로 만들어진 '딥페이크’일 가능성이 있다"고 분석했다.

일본 내에서 이런 딥페이크 기술을 이용한 선정적 채널 확산에 산케이신문은 "해당 계정 외에도 '미스도쿄대' 이름을 붙인 여성의 동영상이 게재되고 있다"고 우려했다. 특히, 산케이신문은 이런 선정적인 영상 제작자 중에는 여러 사이트에 링크를 함께 게재해 '유료 회원이 되면 보다 더 선정적인 동영상을 열람할 수 있다'는 식으로 유도하기도 해 더 큰 사회적 문제가 야기될 수 있다고 지적했다.

한편, 일본뿐 아니라 최근 생성형 AI를 둘러싼 논란이 전 세계에서 커지고 있다. 실제로 최근 음악, 영화, 드라마, 웹툰 등 문화산업에서 생성형 AI가 저작권을 침해하는 것은 물론 '미스도쿄대' 사례와 같이 사회 윤리 규범을 침해하는 일이 늘어나고 있다.

지난 1월 말, 미국 NBC 나이트 쇼에서 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)는 팝스타 테일러 스위프트의 얼굴 사진이 합성된 음란 이미지가 온라인상에서 확산한 것에 대해 분노했다. 나델라 CEO는 "기술 주변에 가드레일(안전장치)을 설치해 안전한 (인공지능·AI) 콘텐츠가 더 많이 생산될 수 있도록 해야 한다"며 "특히 법과 법 집행 기관, 기술 플랫폼이 함께 할 때 훨씬 더 많은 것을 규제할 수 있다"고 말하며 AI 규제의 필요성을 강조했다.

방제일 기자 zeilism@asiae.co.kr