방미통위 'AI 그록에 청소년 보호 위한 안전장치 요청'

성착취물·비동의 성적 이미지 전파 부작용
"신기술 역기능은 합리적 규제 할 계획"

김종철 방미통위원장 연합뉴스

방송미디어통신위원회가 인공지능(AI) 챗봇 그록 서비스를 전 세계에 제공 중인 엑스(X·옛 트위터)에 대해 청소년 보호를 위한 안전장치를 마련해 줄 것을 요청했다.

방미통위는 14일 최근 성착취물·비동의 성적 이미지가 소셜미디어를 통해 전파돼 사회적 우려가 커짐에 따라 엑스의 그록 서비스에 대해 청소년 보호 장치 마련을 요구했다고 밝혔다.

우선 그록 서비스를 통해 이용자의 불법 행위가 촉발되지 않도록 엑스 측에서 안전장치를 마련하고, 유해정보로부터 청소년을 보호하기 위해 청소년 접근제한과 관리조치 등 보호 계획을 수립해 그 결과를 회신해 줄 것을 통보했다.

일론 머스크가 운영하는 AI 기업 xAI는 최근 엑스에서 그록을 사용해 딥페이크 이미지를 생성하는 서비스를 출시했는데, 사용자 동의 없는 딥페이크 이미지를 양산하는 사례가 늘면서 각국에서 비난 여론이 높아지고 있다.

현재 엑스는 한국의 '정보통신망법'에 따라 청소년보호책임자를 지정해 방미통위에 통보하고 있으며, 매년 청소년보호책임자 운영실태 관련 자료를 제출하고 있다. 방미통위는 엑스 측에 한국에서는 당사자 의사에 반해 성적 허위영상물을 제작·유통·소지·시청하는 행위가 형사처벌 대상이라는 점도 전달했다.

김종철 방미통위원장은 "새롭게 도입되는 신기술을 지원하되 부작용과 역기능에 대해서는 합리적 규제를 해 나갈 계획"이라며 "AI 서비스 제공자를 대상으로 성범죄물 등 불법정보 유통 방지와 청소년 보호 의무 부과 등 제도 개선을 추진해 나가겠다"고 말했다.