'수갑 찬 트럼프' 선거 위협…美 AI 기업, 대선까지 '정치 이미지 생성' 제한

미드저니, 1년간 대선 후보 이미지 생성 금지
메타, 오픈AI는 AI 생성 이미지에 워터마크

오는 11월 미국 대선을 앞두고 인공지능(AI) 기업들이 자사 AI를 활용한 정치적 이미지 생성을 금지하는 방안을 검토하고 있다.

11일(현지시간) 영국 가디언 등 외신에 따르면 AI 이미지 생성 기업 미드저니는 조 바이든 대통령이나 도널드 트럼프 전 대통령에 대한 정치적 이미지를 생성하지 못하도록 막는 방안을 고려 중이다. 데이비드 홀츠 미드저니 최고경영자(CEO)는 "향후 12개월 동안 유력 대선 후보 등과 관련한 이미지 생성을 금지 또는 제한할 예정"이라고 밝혔다.

또 다른 AI 이미지 생성 기업 인플렉션 AI도 자사 챗봇 '파이'가 특정 정치 후보를 지지하는 발언을 하지 못하도록 조치한다고 예고했다.

페이스북 모회사 메타는 지난주 자사 AI로 생성된 이미지에 라벨을 부착해 특정 이미지 출처를 구별할 수 있도록 하겠다고 했다. 대선을 앞두고 잘못된 정보 유통을 막기 위한 조치다. 오픈AI도 딥페이크(AI를 활용한 이미지·음성 합성기술)에 워터마크(AI가 만들었다는 표식)를 부착하겠다고 예고했다. 샘 올트먼 오픈AI 최고경영자(CEO)는 최근 "내가 가장 걱정하는 것은 AI의 새로운 능력"이라며 "2020년보다 더 나은 딥페이크가 있을 것"이라고 우려했다.

미국 테크 기업들의 이 같은 움직임은 최근 딥페이크에 대한 규제를 강화해야 한다는 목소리가 커지는 가운데 나왔다. 최근 수갑을 찬 트럼프 전 대통령, 기관총을 쏘는 바이든 대통령 등 AI로 생성된 가짜 이미지가 유통되며 선거와 민주주의를 위협할 수 있다는 목소리가 커졌다.

비영리단체인 올 테크 이즈 휴먼 대표인 데이비드 라이언 폴가르는 "우리는 급속도로 진행되는 혁신과 우리가 해야 할 일을 이해하기 위한 우리 사회의 능력 사이의 간극을 깨닫고 있다"며 "(우리는) 여전히 고통스러울 정도로 느리게 움직이고 있다"고 지적했다.

뉴욕=권해영 특파원 roguehy@asiae.co.kr