딥페이크 성착취물 생성 '그록', 인니서 세계 최초 차단

인권·존엄성 침해…일시적 차단
세계 각국서 규제 움직임

인도네시아 정부가 최근 인공지능(AI)을 이용한 '딥페이크'(이미지 합성 기술)로 성착취물을 생성해 유포한 논란을 일으킨 챗봇 '그록' 서비스를 세계 최초로 차단했다.

11일(현지시간) AFP·블룸버그 통신 등 주요 외신에 따르면 무티아 하피드 인도네시아 통신디지털부 장관은 전날 그록 서비스를 일시 중단한다고 밝혔다. 그록은 테슬라 최고경영자(CEO) 일론머스크가 설립한 AI 스타트업 xAI가 만든 AI 챗봇 서비스다.

그는 성명을 통해 "AI 기술로 생성한 가짜 음란물 콘텐츠의 위험으로부터 여성과 아동 등을 보호하기 위해 그록 애플리케이션 접근을 일시적으로 차단했다"며 "(인도네시아) 정부는 디지털 공간에서 동의 없이 벌어지는 딥페이크는 인권과 존엄성을 침해하는 중대 행위로 간주한다"고 밝혔다.

최근 그록이 성착취물 생성으로 논란이 일으킨 이후 세계 최초로 국가 단위에서 차단이 이뤄진 것이다. 앞서 인도네시아 통신디지털부는 xAI 관계자들을 불러 최근 논란과 관련한 사실관계를 확인했다.

세계에서 무슬림 인구가 가장 많은 인도네시아는 음란물로 간주하는 콘텐츠의 온라인 공유를 엄격히 금지하고 있다.

그록은 이 조치와 관련해 사회관계망서비스(SNS) 엑스(옛 트위터)에 "불편을 드려 죄송하다"며 "이번 문제를 해결하기 위해 노력하고 있다"고 입장을 밝혔다.

그록은 최근 비키니 수영복 등을 입은 아동 사진을 생성한 뒤 엑스를 통해 유포해 논란을 일으켰다. 수천장의 사진을 딥페이크 기술로 만든 성 착취물들은 대부분 피사체인 당사자 동의 없이 생성됐다.

그록은 한 이용자가 문제를 제기하자 "안전장치의 허점을 확인했다"며 해당 사진들을 뒤늦게 삭제했다.

유럽 주요 국가와 말레이시아는 이 문제를 조사하겠다고 나섰고, 호주와 인도도 관련 콘텐츠를 단속하겠다고 밝혔다.

미국에서도 론 와이든 민주당 상원의원 등이 애플과 구글 최고경영자(CEO)에게 서한을 보내 앱스토어에서 그록과 엑스를 퇴출하라고 요구했다.

논란이 커지자 엑스와 xAI 측은 전날부터 엑스에서 그록의 이미지 생성·편집 기능을 프리미엄(유료) 구독자만 이용하도록 제한했다.

로이터연합뉴스

이민우 기자 letzwin@asiae.co.kr