"새해 인사 대신 욕설"…中 생성형 AI, 욕설 이미지 생성 논란

텐센트 "비정상 출력…긴급 수정"
다중 대화 처리 중 오류 가능성 제기

중국의 생성형 인공지능(AI) 서비스가 이용자와의 대화 과정에서 욕설이 포함된 이미지를 생성해 논란이 일고 있다. 업체 측은 다중 대화 처리 과정에서 발생한 비정상 출력이라며 긴급 조치를 취했다고 밝혔다.

텐센트 AI 챗봇 위안바오 로고. 사진=텐센트

연합뉴스는 25일(현지시간) 중국 매체 홍성신문 등을 인용해 시안의 한 변호사가 춘제(春節·중국의 설) 연휴 기간 텐센트의 생성형 AI 서비스 '위안바오'를 이용해 새해 인사용 이미지를 제작하던 중 욕설이 삽입된 결과물을 받았다고 전했다.

위안바오는 텐센트가 자체 대형언어모델(LLM)을 기반으로 선보인 대화형 AI 서비스다. 해당 변호사는 자신의 사진을 업로드한 뒤 "직업 특성에 맞는 새해 인사 이미지를 만들어 달라"고 요청했다.

초기 결과물이 기대에 미치지 못하자 추가 지시를 내렸고 이 과정에서 디자인에 대한 불만을 표현한 것으로 알려졌다. 이후 새로 생성된 이미지에는 기존의 "새해 복 많이 받으세요, 승진하시길 바랍니다"라는 문구 대신 욕설이 포함됐다는 설명이다.

해당 사례가 사회관계망서비스(SNS)를 통해 확산하자 텐센트는 25일 공식 입장을 내고 사과했다. 회사 측은 "모델이 여러 차례 대화를 처리하는 과정에서 비정상적인 결과가 발생했다"며 "관련 문제를 긴급 교정하고 사용자 경험을 최적화했다"고 밝혔다.

이번 논란은 중국이 생성형 AI 분야에서 영향력을 확대하는 상황에서 발생했다는 점에서 주목된다. 바이두, 알리바바 등 주요 빅테크 기업들도 자체 LLM을 고도화하며 상용 서비스 확장에 속도를 내고 있다.

다만 업계에서는 맥락을 오인하거나 감정 표현을 부적절하게 반영하는 이른바 '비정상 출력' 문제가 여전히 해결 과제로 남아 있다고 지적한다.

이와 관련해 중국 광저우일보는 "기술은 죄가 없지만 그대로 두는 것은 방임"이라며 "AI가 인간의 학습 능력과 지식만이 아니라 인류의 양심도 함께 계승해야 한다"고 강조했다.

박은서 인턴기자 rloseo8@asiae.co.kr