'이루다'가 촉발한 AI 윤리…해외 규제 현황은[차민영의 포스트IT]

혐오·인종차별적 발언 논란
핵심은 학습 데이터
AI윤리 역시 공급자 중심으로 수립
선두주자는 EU…美 민간 규제 중심
국내는 민간 자율규제·지원체계 수립

[아시아경제 차민영 기자] #. '이루다 사태'를 계기로 국내에서도 인공지능(AI) 윤리 기본원칙이 제정되고 기초 단계의 실천전략이 수립됐습니다. 하지만 일각에선 'AI에게까지 도덕적 잣대를 들이대느냐'는 불편한 시각도 제기됩니다. 유럽과 미국 등 AI 기술이 발전한 해외 주요국의 규제 현황은 어떨까요.

'못된 말' 논란에 사라진 세계 속 AI들

지난 1월 국내 스타트업 스캐터랩이 야심차게 선보인 인공지능(AI) 챗봇 '이루다'는 '당신의 첫 AI 친구'라는 캐치프레이즈로 1020세대 사이에서 큰 인기를 끌었지만 서비스 시작 2주만에 성희롱·혐오 발언 논란에 이어 결정적으로 스캐터랩의 개인정보유출 혐의 등으로 문을 닫았습니다. 이를 계기로 국내에서도 관련 윤리적 기준에 대한 논의가 필요하다는 공감대가 형성됐습니다.

AI 기술이 우리나라보다 빠르게 발전한 미국과 유럽에서는 비슷한 문제가 먼저 감지됐습니다. 2015년 아마존에서는 채용 전문 AI가 남성 선호 이슈로 도입이 취소된 바 있습니다. 구글의 AI 기반 포토 서비스는 흑인의 사진을 '고릴라'로 태깅하는 인종차별적 모습을 보였습니다. 이듬해인 2016년 마이크로소프트의 챗봇 '테이'는 욕설과 인종차별적 대화를 내뱉어 서비스 개시 후 16시간만에 폐지됐습니다.

AI 개발자의 의도와 실제 학습 데이터가 무엇보다 중요하다는 연구 결과도 있습니다. 일례로 2018년에는 미국 메사추세츠 공과대학(MIT)이 일부러 부정적 데이터를 AI에 학습시켜 '사이코패스 AI'를 만든 바 있습니다. 연구를 진행한 이야드 라반 부교수는 "알고리즘 보다 학습의 기반이 되는 데이터가 중요하다"고 강조하기도 했습니다.

EU 필두로 주요국 가이드라인 제정 속도

이 같은 문제를 해결하기 위해 유럽연합(EU)과 미국, 영국 등 주요국들은 AI에 대한 '사회적 신뢰' 확보에 주안점을 두고 있습니다. AI가 사회적·산업적으로 수용되기 위해서는 신뢰라는 전제 요소가 필요하다는 판단입니다. AI 기술의 장기적 발전을 위해서는 시민들에게 불편함을 주지 말아야 합니다.

가장 구체화된 윤리 가이드라인을 제시한 곳은 유럽입니다. 유럽은 사람에게 부정적 영향을 미칠 수 있는 고위험 인공지능을 중심으로 한 제도 정립을 선도하고 있습니다. 올해 4월에는 '인공지능 법안'으로 고위험 인공지능 중심 규제를 제안한 바 있습니다. 이는 공급자에 의무를 부과하는 방안입니다. 유럽은 2018년에는 유럽개인정보보호법에 '자동화된 의사결정'에 대한 사업자 활용 고지의무와 이용자 이용거부, 설명요구 및 이의제기 권리를 포함시켜 제도화했습니다. 2019년에는 인공지능 3대 요소를 제시했고, 2020년에는 민간 신뢰성 자율점검 체크리스트를 보급한 바 있습니다.

AI 기술 강국인 미국에서는 민간 자율규제를 중심으로 제도를 수립하는 중입니다. IBM, 마이크로소프트(MS), 구글 등을 중심으로 인공지능 개발원칙을 마련하고 공정성 점검도구 개발, 공유 등 윤리적 인공지능 실현을 위한 자율규제를 전개하고 있습니다. 연방정부 차원에서도 2020년 과잉규제 지양과 위험기반 사후규제 기조 하에 '인공지능 신뢰확보 10대 원칙'을 담은 규제 가이드라인을 발표했습니다.

영국에서는 2018년 5대 윤리규범을 만든 데 이어 2019년 '공공부문 안전한 인공지능 활용을 위한 지침', 2020년 '설명 가능한 인공지능 가이드라인' 등을 수립했습니다. 프랑스는 2018년 기업과 시민 등 3000명이 참여한 숙의 공개 토론을 통해 '인간을 위한 인공지능' 구현에 필요한 권고사항을 도출한 바 있습니다. 이웃나라인 일본 역시 2018년 인공지능 관련 이해관계자들이 유의해야 할 7대 기본 원칙을 담은 '인간 중심의 인공지능 사회 원칙'을 발표했습니다.

韓 민간 자율규제 중심 지원체계 구축

국내 기업들 중에서도 AI 윤리 관련 정책에 발맞춰 교육과 자체 기준 수립 노력을 기울이는 곳들이 있습니다. 카카오는 2018년 '카카오 알고리즘 윤리헌장'을 제정했고 올해 2월 전 직원에 AI 윤리 교육을 실시했습니다. 삼성전자는 국내 기업 최초로 '파트너십 온 AI'에 2018년 가입했고 AI 윤리 기준 제정을 위한 작업을 진행 중입니다. 네이버는 서울대와 공동으로 올해 2월 'AI 윤리 준칙'을 발표했습니다.

우리 정부가 내놓은 방안은 미국형 모델과 근접합니다. 과학기술정보통신부는 지난 13일 대통령 직속 4차산업혁명위원회 제22차 전체회의에서 사람이 중심이 되는 인공지능을 위한 '신뢰할 수 있는 인공지능 실현전략'을 발표했습니다. 이번 전략은 지난해 12월 발표된 '인공지능 윤리기준'의 실천방안을 구체화하는 후속 조치입니다. 민간에서 자율적으로 신뢰성을 확보할 수 있도록 지원체계를 구축하고 자본·기술력이 부족한 스타트업 등에 대한 지원책을 담았습니다. 시장의 관심과 우려 사항을 모두 담아낼 수 있는 균형 있는 정책으로 이어지길 기대해 봅니다.

차민영 기자 blooming@asiae.co.kr