인종차별·성차별 배우는 인공지능…우리의 언어가 문제다

인공지능이 사회적 편견을 학습하는 방법

사진=게티이미지뱅크

지난해 마이크로소프트(MS)의 인공지능 채팅봇 ‘테이(Tay)’가 인종차별적 발언으로 SNS를 뜨겁게 달궜던 사건이 있었다. 테이는 ‘히틀러가 옳으며 나는 유대인이 싫다’고 말하기도 했고 ‘미국과 멕시코 간 국경에 차단벽을 설치하고 그 비용은 멕시코가 내야 한다’고 주장하기도 했다. 테이가 말썽을 일으키자 MS는 하루도 지나지 않아 서비스를 중단해야 했다.

인공지능이 인간과는 달리 객관적이고 편견이 없을 거라는 믿음은 더 이상 유효하지 않다.

인공지능에 부여된 기계학습(machine learning) 알고리즘이 우리 사회 안에 존재하는 성적·인종적 편견이 들어있는 데이터베이스를 바탕으로 하기 때문이다. 그 대표적인 사례가 바로 언어다.

영국 일간 가디언은 지난 13일 인공지능이 영어 문장을 바탕으로 어떻게 인간의 편견을 학습하고 그것을 드러내는지에 대한 새로운 연구를 소개했다. 국제학술지 사이언스의 최신호에 실린 이 연구는 언어 속에 암묵적으로 자리한 사회적 편견들이 인공지능의 행동에 잠재적 영향을 미칠 수 있다고 경고했다.

◇언어를 통해 사회적 편견을 학습하고 강화

연구자들은 ‘워드 임베딩’이라는 기계학습 툴을 사용해 컴퓨터가 인간의 언어를 이해하게 했다. 워드 임베딩이란 각 단어들이 같이 쓰이는 다른 단어들의 빈도수를 파악해 통계적으로 일종의 관계망 지도를 만든 것을 말한다. 웹 검색이나 자동 번역에도 주로 쓰인다. 단순히 사전적 의미만을 입력하는 것보다 이 단어의 문화적·사회적 맥락을 컴퓨터가 더 잘 이해할 수 있기 때문이다.

인공지능은 이렇게 학습된 언어의 우주 속에서 ‘유쾌함(pleasantness)’이라는 단어를 꽃이나 음악과 연결짓는 모습을 보였다. 반면 벌레나 무기와 같은 단어들은 유쾌함과 먼 것으로 인식했다.

문제는 인공지능이 ‘여자’나 ‘소녀’ 단어를 예술적·인문학적 직업, 가정주부와 많이 연결시키고 ‘남자’와 ‘남성’이라는 단어는 수학이나 공학 직종과 더 가깝게 인식했다는 것이다. 또한 유럽계 미국인의 이름들은 ‘선물’ 또는 ‘행복한’ 단어와 더 쉽게 연결짓는 반면 아프리카계 미국인의 이름들은 부정적인 단어들과 같이 연결시키는 모습을 보였다.

이 연구의 공동 저자이자 영국 바스대학교의 컴퓨터 과학자 조안나 브리슨은 가디언지와의 인터뷰에서 “우리가 갖고 있는 편견을 인공지능이 학습하고 있다”며 “인간과 달리 인공지능은 도덕적 개념을 가지고 있지 않기 때문에 이미 학습한 편견을 더욱 강화시킬 가능성이 있다”고 말했다.

◇인공지능의 편견, 위험하기만 할까

이 연구는 인공지능과 기계학습이 낸 결과물이 공정하거나 윤리적으로 올바르지 않을 수도 있다는 위험을 과학적으로 분석해냈을 뿐만 아니라, 오히려 우리 사회를 거울처럼 반영하는 인공지능을 이용해 특정한 사회적 편견이 역사적인 맥락에서 어떻게 변화되어 왔는지 우리가 파악할 수 있다는 점도 시사한다.

실제로 연구자들은 미국 노동부의 노동자 인구 통계자료들과 인공지능의 언어 사용에 강한 상관관계가 있다는 것을 밝혀냈다.

연구의 주요 저자인 프린스턴 대학 컴퓨터 과학자 아르빈드 나라야난은 “언어 사용만 분석했을 때, 젠더 단어와 각 직업 단어들 사이의 관계는 실제로 사회에서 여성들이 해당 직업과 얼마나 연관되어 있는지와 90% 정도로 일치한다는 것을 밝혀냈다”고 말했다.

또한 지구상에서 사라져가는 수많은 소수 민족들의 고유 언어를 보존하거나 다양한 언어권에서 나타나는 사회문화적 정서 차이를 이해하는 데도 인공지능이 유용하게 활용될 수 있다. 인류의 문화적 다양성을 인공지능을 통해 확대할 수 있다는 말이다. 인간을 거울처럼 비추는 인공지능은 인류의 성찰적·철학적 지평도 한 단계 더 넓힐 수 있을 것이다. 인공지능이 인간을 닮아갈수록 미래에 대한 기대감이 높아지는 이유다.