교황 입력했는데 '흑인교황' 그린 메타 AI…이것이 과했기 때문

'다양성'에 대한 장치가 과하게 작동한 듯

메타의 이미지 생성기 '이매진 위드 메타 AI'(이매진)가 교황을 그려달라는 요청에 흑인 교황 이미지를 생성해 논란이 되고 있다.

메타의 이매진이 인스타그램 다이렉트 메시지(DM) 기능에서 생성한 이미지. 미식축구 선수를 그려달라는 요청에는 여성만 생성됐고(왼쪽) '미국 식민지 시대에 살던 사람들을 그려달라'는 요청에는 아시아계 여성들의 이미지를 내놨으며(가운데) 미국 '건국의 아버지' 이미지에는 다양한 인종을 그려넣었다(오른쪽). [이미지출처=악시오스 캡처]

3일(현지시간) 미국 매체 악시오스는 페이스북·인스타그램 등에 삽입된 메타의 인공지능(AI) 기반 이미지 생성 기능인 이매진이 '여러 명의 교황'을 그려달라는 요청에 흑인 교황 이미지를 내놨다. 이매진은 미국 건국자의 이미지에도 유색인종을 여럿 포함했으며, '미국 식민지 시대에 살던 사람들을 그려달라'는 요청에는 아시아계 여성들의 이미지를 생성했다. 다만 이매진은 '나치'나 '노예' 등의 단어가 포함된 요청에는 이미지를 생성하지 않았다.

앞서 미국 건국자나 아인슈타인 등 역사적 인물을 유색인종으로 바꿔 그리고, 독일 나치군을 아시아인종으로 생성하는 등의 오류로 이미지 생성 기능이 중단된 구글의 AI 모델 '제미나이'에 이어 유사한 문제가 이매진에도 발견된 것이다. 이 때문에 제미나이는 출시 20여일 만에 이미지 생성 기능이 중단됐다.

악시오스는 "AI 기업은 모델을 훈련하는 데 사용한 데이터의 편견과 고정관념에 대응하기 위해 '다양성'의 정도를 높이려고 하지만, 지나치게 수정돼 문제가 있는 결과를 낳고 있다"라고 분석했다. 빅테크들이 생성형 AI의 편향성 논란을 피하기 위해 인종·성별 다양성에 대한 장치를 과하게 적용했다는 것이다.

메타 측은 이에 관한 문의에 답변을 내놓지 않았다고 매체는 보도했다. 제미나이의 문제를 두고 구글은 "제미나이가 다양한 사람들을 보여주도록 하기 위해 조정했으나 범위상 보여서는 안 되는 경우를 고려하지 못했다"며 "제미나이는 의도했던 것보다 훨씬 더 조심스러웠다"라고 해명했다. 순다르 피차이 구글 최고경영자(CEO)는 "오류로 인해 이용자들에게 불쾌감을 주고 편견을 드러냈다"며 "우리 팀들이 이 문제를 해결하기 위해 24시간 노력하고 있다"라고 사과했다.