"아동·여성 대상 명백한 성범죄"…동의없이 성적 이미지 생성 '그록'에 각국 초강수

AI 딥페이크 악용 우려 현실화
영국·프랑스·인도 등 조사 착수
머스크 "불법엔 책임 묻겠다"

일론 머스크가 이끄는 인공지능(AI) 기업 xAI의 챗봇 그록(Grok)이 여성과 아동을 대상으로 한 성적 이미지 생성 논란에 휩싸이면서 각국 규제당국의 강한 비판과 조사를 받고 있다. 7일 연합뉴스는 로이터와 BBC 등을 인용해 영국 정부가 그록이 당사자 동의 없이 사적인 성적 이미지를 생성·유포하는 문제를 시급한 해결을 요구했다고 보도했다.

일론 머스크가 이끄는 인공지능(AI) 기업 xAI의 챗봇 그록(Grok)이chlrms 여성과 아동을 대상으로 한 성적 이미지 생성 논란에 휩싸였다. 로이터연합뉴스

리즈 켄들 영국 과학혁신기술부 장관은 "이는 표현의 자유의 문제가 아니라 명백한 법 준수 사안"이라며, AI로 생성된 이미지 역시 불법 사적 이미지 유포에 해당한다고 강조했다. 이어 그는 "우리는 온라인안전법으로 사적인 이미지를 오용하거나 다른 사람에게 유포하는 행위를 최우선으로 다루는 범죄로 규정하며, 이는 AI로 생성한 이미지를 포함한다"며 "각 플랫폼은 그러한 콘텐츠가 온라인에 나타나지 않도록 방지하고, 그런 게 있으면 신속히 제거해야만 한다"고 강조했다.

영국의 미디어·통신 규제당국인 오프콤(OfCom)은 지난 5일 그록이 사람들의 옷을 벗기는 이미지를 만들고 있다는 우려를 조사하고 있다고 밝혔다. 특히, 오프콤은 엑스 및 xAI가 영국 사용자 보호를 위한 법적 의무를 이행하고 있는지 파악하기 위해 긴급히 연락했다. 켄들 장관은 "오프콤이 이 문제를 긴급히 조사하는 것은 전적으로 옳다"며 "오프콤이 필요하다고 보는 어떤 법적 조치도 완전히 지지한다"고 말했다.

"표현의 자유가 아닌 범죄" 각국 규제당국, 그록 정조준

그록은 표현의 자유 등을 들어 성적 콘텐츠 생성을 막지 않고 있으며, 최근 들어 아동을 성적으로 그린 생성 이미지가 돌면서 논란이 일고 있다. 특히 이용자들이 사진을 올려 손쉽게 변형할 수 있게 되면서, 비키니 합성, 딥페이크 성적 이미지 제작에 악용됐다는 지적이 잇따랐다. 일부 사용자들은 미성년자 사진이 성적으로 변형해 유포하기도 했다. 머스크의 13번째 자녀를 출산한 인플루언서 애슐리 세인트 클레어 역시 피해를 주장했다. 그는 자신의 어린 시절 사진이 그록을 통해 비키니를 입은 모습으로 합성돼 엑스에 게시됐다며 "동의 없는 이미지 변형은 성범죄"라고 비판했다.

그록과 관련한 논란이 켜지자 머스크는 "그록을 불법 콘텐츠 제작에 사용하는 것은 불법 게시와 동일한 책임을 질 것"이라고 경고했다. AP연합뉴스

유럽연합(EU)도 사안을 심각하게 보고 있다. EU 집행위원회는 그록이 어린이 이미지로 노골적인 성적 콘텐츠를 생성하는 것은 불법이라며 강한 유감을 표했다. 프랑스는 이미 아동 성 착취물 생성·유포 혐의를 포함해 엑스에 대한 검찰 수사를 확대했다. 아시아에서도 대응이 이어지고 있다. 인도 규제당국은 엑스에 성적 콘텐츠 제거와 이용자 단속을 지시했으며, 말레이시아 역시 음란 콘텐츠 생성과 관련해 조사에 착수했다.

논란과 더불어 각국의 규제가 현실화하자 xAI 측은 "안전장치의 허점을 확인해 긴급 수정 중"이라고 밝혔으며, 머스크는 "그록을 불법 콘텐츠 제작에 사용하는 것은 불법 게시와 동일한 책임을 질 것"이라고 경고했다. 그러나 일부 외신은 논란 이후에도 문제 사례가 계속 확인되고 있다고 전했다. 전문가들은 AI 챗봇의 표현의 자유와 이용자 보호 사이의 균형, 그리고 플랫폼 책임 범위를 둘러싼 논쟁이 이번 사태를 계기로 더욱 격화할 것으로 보고 있다.

방제일 기자 zeilism@asiae.co.kr