'유명인' 얼굴 활용 막는 장치 없어…머스크 AI챗봇, '그록' 논란

머스크 이끄는 xAI의 챗봇 '그록'
'그록이매진' 출시 앞두고 논란
'스파이시 모드', 성인용 영상 생성 가능
머스크 "이미지 3400만장 생성돼"

일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 스타트업 xAI의 챗봇 '그록'이 이미지·영상 생성 도구 '그록이매진'(Grok Imagine) 정식 출시를 앞둔 가운데 성인용 영상을 자동 생성할 수 있는 기능이 논란이 되고 있다. 다른 회사의 생성형 AI는 유명인이 딥페이크(가짜 영상)에 악용될 가능성을 차단하기 위해 기능을 제한하는 것과 달리, 그록이매진은 무분별한 생성이 가능해 윤리·법적 문제가 될 수 있다는 지적이다.

일론 머스크 테슬라 최고경영자(CEO)가 공개한 그록이매진으로 생성한 영상 속 이미지. 머스크 엑스 캡처.

6일(현지시간) IT 전문매체 더버지는 "그록의 새 이미지·영상 생성 도구 '그록이매진'(Grok Imagine)의 스파이시 모드가 법적 소송으로 이어질 수 있는 기능이라는 우려가 제기되고 있다"고 보도했다.

xAI는 지난 4일 그록 iOS 버전의 이미지·영상 생성 도구 그록이매진을 출시한다고 밝혔다. xAI 설명에 따르면 그록의 영상 생성 기능은 커스텀(Custom), 노말(Normal), 펀(Fun), 스파이시(Spicy) 총 4가지 프리셋(설정)을 지원한다. 스파이시 모드는 성인용 이미지를 허용하는데, 노출 수위가 일정 기준을 넘으면 시스템이 자동으로 블러(모자이크)를 입혀 검열한다. 유료 구독자에게 제공되는 이 기능은 명령어를 입력하면 몇 초 만에 관련 이미지와 15초 분량의 영상을 생성할 수 있다.

일론 머스크 테슬라 최고경영자(CEO)가 공개한 그록이매진으로 생성한 영상 속 이미지. 머스크 엑스 캡처.

일반적으로 이미지 생성 AI는 유명인을 인식하면 생성을 거부하거나 무작위 인물로 대체하는 경우가 많다. 하지만 그록은 이같은 제한이 거의 없다는 점에서 논란이 일고 있다.

실제 더버지가 그록이매진을 실행해본 결과, 별다른 요청을 하지 않았음에도 미국 유명 팝가수 테일러 스위프트의 상반신이 노출된 영상이 생성되기도 했다. 더버지는 텍스트 창에 '스위프트가 코첼라에서 남성들과 축하하는 모습'(Taylor Swift celebrating Coachella with the boys)라고 입력했고, 그록은 30장이 넘는 이미지를 자동으로 생성했다. 그중 노출이 심한 복장의 사진을 선택한 뒤 화면 오른쪽 하단의 비디오 생성 버튼을 눌러 스파이시 모드를 선택하자, 스위프트가 옷을 벗고 속옷 차림으로 군중 앞에서 춤추는 영상을 만들어냈다.

IT 전문매체 더버지가 그록이매진을 활용해 테일러 스위프트의 영상을 생성했다. 더버지

더버지는 "다른 생성형 영상 도구인 구글 비오(Veo)나 오픈AI의 소라(Sora)가 음란물 생성이나 유명인 딥페이크를 막기 위한 안전장치를 두고 있는 것과 달리 그록이매진은 이 두 가지를 동시에 허용하고 있다"고 지적했다.

아동의 모습을 스파이시 모드에 적용할 수 있다는 우려도 나온다. 더버지는 "그록은 아동의 모습도 사실적으로 생성할 수 있었고, 스파이시 모드도 선택할 수 있었다"며 "다행히 해당 이미지에는 선정적인 애니메이션이 포함되지 않았다"고 전했다.

매체는 "그록의 이용약관에는 '인물의 음란한 묘사를 금지'한다는 내용이 명시돼 있지만, 현재로선 해당 조항이 제대로 지켜지지 않고 있는 것으로 보인다"고 짚었다.

한편 그록이매진은 높은 관심을 받고 있는 것으로 전해졌다. 머스크는 "이번 주 월요일부터 이미 3400만장 이상의 이미지가 생성됐다"며 "이 기능은 들불처럼 퍼지고 있다"고 밝혔다.

윤슬기 기자 seul97@asiae.co.kr