"대량학살 찬성한다"던 AI 채팅 로봇 '테이' 작동 중지

사진= 테이 트위터 캡처

[아시아경제 김원유 인턴기자] 마이크로소프트의 인공지능(AI) 채팅 로봇 테이(Tay)가 잘못된 머신러닝으로 악성 트윗을 남발하자 회사가 공식사과했다.

영국 BBC 방송은 25일(현지시각) 마이크로소프트 연구부문 책임자인 피터 리 부사장(CVP)은 25일 "의도하지 않은 공격적이고 상처를 주는 트위터 글들에 대해 매우 죄송하다"고 말했다고 보도했다.

그는 "테이는 현재 오프라인 상태이다. "우리의 원칙 및 가치와 충돌하는 악의적인 의도를 더 잘 예측할 수 있을 때에만 테이의 복귀를 검토하겠다"고 전했다.

이는 테이에게서 나타난 문제점이 '타고난 천성'이 아닌 '양육의 결과'라는 점을 재차 강조한 것이다. 테이는 23일 트위터를 통해 공개된 직후 일부 극우 인종·성차별주의자들로부터 욕설과 인종·성차별 발언, 자극적인 정치적 발언 등을 '세뇌'당했고 "대량학살에 찬성한다"는 등의 극단적 '언행'을 보였다.

피터 리 부사장은 "많은 종류의 시스템 오남용에 대비했지만, 이런 특정한 공격을 간과하고 말았다"고 설명했다.

그는 "결과적으로 테이는 극도로 부적절하고 부끄러운 말과 이미지를 사용했다"며 "우리는 이런 가능성을 예측하지 못한 데 전적으로 책임감을 느낀다"고 말했다.

하지만 MS는 이런 부작용에도 인간과 상호작용하는 AI 연구는 지속할 계획이다. 피터 리 부사장은 "우리는 큰 경계심을 가지고, 차근히 배우고 개발해야 한다"며 "이번을 비롯한 경험들로부터 교훈을 얻어 최악이 아닌 최선의 인간성을 보여주는 인터넷에 이바지하는 작업을 이어갈 것"이라고 전했다.