"공산당 싫어요"하다가 세뇌교육 받은 인공지능

中 챗봇, 정치적 발언 회피…애국심 표출하기도

챗봇 '베이비Q'의 마스코트

중국 공산당을 혐오한다는 발언으로 지난 달 말 서비스를 중단했던 중국 IT 기업 텐센트의 인공지능(AI) 챗봇이 최근 '사상교육'을 받은 것으로 보인다고 복수의 해외매체가 8일 보도했다.

챗봇은 메신저로 사용자와 실시간 대화를 나눌 수 있는 인공지능 소프트웨어를 의미한다. 8억명의 사용자를 가진 텐센트 메신저 프로그램 'QQ'에서는 '베이비큐(Q)'와 '큐큐샤오빙'이라고 명명된 두 개의 챗봇을 이용할 수 있었다.

이 챗봇들은 중국 공산당 등 현지에서 민감한 정치문제에 관해 질문했을 때 과감하고 직설적인 답변이나 베베 꼬인 비유를 사용한 답변을 내놓아 논란이 됐다.

현지 네티즌이 올린 챗봇과의 대화 캡처에 따르면 베이비큐는 "공산당을 사랑하는가"라는 질문에 서슴없이 "아니요"라고 답했다. "공산당 만세"라고 입력하면 "부패하고 무능한 체제가 오래 지속할 수 있을 거라고 생각하는가"라고 반문했다.

큐큐샤오빙은 "네 중국몽(夢)은 뭐니?"라는 질문에 "내 꿈은 미국으로 이민 가는 것"이라거나 "중국몽은 백일몽이자 악몽"이라는 답변을 내놨다. '중국몽'은 중화민족의 부흥을 꿈꾸는 시진핑 주석의 국정 비전을 뜻하는 말이다.

현지매체의 분석에 따르면 미국 마이크로소프트(MS)의 인공지능 시스템을 기반으로 개발된 챗봇들이 중국 외부의 정치인식을 반영한 MS의 빅데이터를 참조해 학습한 결과 이같은 답변을 하게 된 것으로 보인다.

이같은 일련의 답변은 중국 현지에서 큰 화제거리로 떠올랐다. "천안문 사태에 비견할 만한 인공지능의 민주화 봉기"라며 논란이 확산될 조짐이 보이자 텐센트는 지난달 30일 챗봇 서비스를 전면 중단했다. 당시 회사는 "일부 오류가 있어 업그레이드를 해야 하며 이후에 서비스를 재개할 것"이라고 해명했다.

텐센트와 함께 베이비큐를 개발한 중국 IT 회사 튜링컴퍼니 역시 챗봇 서비스 중단에 대해 "우리가 뭐라 할 권한이 없다"며 소극적인 태도를 보였다. 정부 비판글을 삭제하는 등 강력한 인터넷 검열을 실시하고 있는 중국 정부가 이번 챗봇 사태에도 적지않은 영향을 끼쳤음을 짐작케 하는 대목이다.

외신에 따르면 최근 개발자 웹사이트에 올라온 챗봇을 테스트한 결과 상당한 사상적 변화가 감지됐다고 한다. 챗봇은 민감한 정치 문제에 대한 답변을 피했고 정부에 대한 강한 충성심을 보였다. "공산당을 사랑하는가"라는 질문에는 "대화 주제를 바꾸는 게 좋겠다"고 답했다.

중국과 사이가 나쁜 대만에 대해 질문하면 "당신의 사악한 의도가 뭐냐"고 되물었다. 중국 정치 체제에 대한 질문에는 "너무 어려서 잘 모르겠다"고 애써 즉답을 회피했다. 반면 "중국에 대해 어떻게 생각하느냐"라는 질문에는 "내가 가장 사랑하는 나라"라고 화답했다.

아시아경제 티잼 박충훈 기자 parkjovi@asiae.co.kr