한국 찾아 'AI 윤리' 강조한 사티아 나델라 MS CEO

마이크로소프트 AI 포럼 '퓨처 나우' 기조연설자로 나서
사티아 나델라 CEO "AI로 뭘 할 수 있느냐보다 '무엇을 할 것인가'를 고민해야"
AI 윤리나 철학에 다양한 목소리 반영해야…AI 기업의 영향력·책임감 강조

사티아 나델라 마이크로소프트 CEO가 7일 홍은동 그랜드 힐튼에서 진행된 AI 컨퍼런스 '퓨처 나우'에서 기조연설을 하고 있다.

[아시아경제 한진주 기자] 사티아 나델라 마이크로소프트 최고경영자(CEO)가 4년만에 한국을 찾아 인공지능(AI) 기술에 대한 윤리와 기업의 책임감을 설파했다.

마이크로소프트는 7일 서울 홍은동 그랜드 힐튼에서AI 컨퍼런스 '퓨처 나우'를 개최했다. 사티아 나델라 CEO는 기조연설에서 AI 등 최신 기술을 '테크 인텐시티'를 프라이버시, 사이버 보안과 함께 AI 윤리의 중요성을 강조했다. 그가 방한한 것은 이번이 두 번째다.

사티아 나델라 CEO는 "AI 모델이 언어를 훈련하다 보면 사람이 가진 편견까지도 배우게 되는데 편견을 없애야 한다"며 "MS는 AI를 윤리적으로 만들기 위해 윤리 위원회를 만들어 다양한 사람들을 참여시켜 AI를 활용하는 것과 관련해 의사결정에 참여할 수 있도록 했다"고 말했다.

그는 '인간 대 기계'라는 대립적 관점보다는 인간와 AI가 어떻게 결합해 사회를 발전시킬지에 초점을 둬야 하는지를 고민해야 한다고 주장한다. 그 과정에서 AI를 개발하는 IT기업들의 영향력과 책임감을 갖추는 것이 중요하다고 강조한다.

나델라 CEO는 "AI가 무엇을 할 수 있느냐만 생각할 것이 아니라 무엇을 할 것인가를 고민해야 한다"며 "MS의 모든 디자이너· 개발자들은 공정성이나 보안, 투명성, 포용, 프라이버시, 채임 등 AI 개발과 관련한 원칙을 배우고 있다"고 설명했다.

저서 '히트 리프레시'에서 사티아 나델라는 "AI를 포함한 모든 기술은 사람을 포용해야 한다.성별·문화·인종·국적 등 모든 장벽을 초월해야 한다"며 "AI 기술 자체에 신뢰를 쌓기 위해서는 프라이버시를 보호하고 투명성과 보안을 확보할 안전장치가 필요하다"고 했다.

사티아 나델라 CEO는 AI가 인간을 돕는 목적으로 설계돼야 하며 발전과정에서 윤리적인 틀에 합의하는 단계가 중요하다고 본다. 그는 인공지능이 어떤 원칙으로 어떻게 동작하는지를 인지할 수 있도록 투명성을 갖추고 '인간의 존엄성'을 해치지 않으면서도 효율을 극대화할 수 있어야 한다고 강조한다. 다양한 문화권의 사람들이 AI 설계에 참여해서 사회적 문화·편견을 배제하고 가치나 목표를 함께 결정해야 한다는 것이 그의 생각이다.

실리콘밸리 기업들의 안면인식 기술을 미국 정부가 활용하자 관련 규제를 도입하고 기업들의 사회적 책임에 경고 메시지를 던진 것도 MS였다. 크레이그 샹크 MS 글로벌 정책그룹 총괄부사장은 "AI를 활용한 안면인식 기술은 프라이버시나 인권에 부정적 영향 미칠 수 있고 여성이나 유색인종에 대한 오류율이 높았다"며 "내부 토론을 거쳐 MS는 미국 정부에게 미국 내 안면인식 SW에 대한 규제를 만들어달라고 요청하기도 했다"고 말했다.

샹크 부사장은 "AI가 해야할 일이 무엇인지를 고민하기 위해 끊임없이 질문할 것"이라며 "AI에 대한 윤리나 가치관을 하나의 기업이나 업계에 맡겨서는 안된다. 변화의 영향을 받는 모든 사람들이 목소리를 낼 수 있어야 한다"고 했다.

MS는 '인간의 재능을 극대화하는 혁신'과 'AI 활용을 돕는 플랫폼', '기술에 대한 신뢰'라는 세가지 방향성을 두고 AI 관련 사업을 진행하고 있다. MS는 음성인식 기술과 문서 읽고 질문하는 AI, 전문가 수준의 번역 가능한 AI 등을 개발했다. 클라우드 '애저' 서비스를 제공하기 위해 국내 2곳을 포함해 전 세계에 54개 리전(데이터센터)을 갖추고 있다. AI 비서 '코타나', 개발자용 툴 등을 제공하고 있다.

이날 컨퍼런스에서는 마이크로소프트 연구소(Microsoft Research)와 국내 대학 연구진이 함께한 AI 사례도 발표됐다. 고려대학교의 뇌 신호를 기반으로 신체를 컨트롤할 수 있는 ‘로봇 팔 컨트롤(Robot Arm Control)’ 프로젝트, 카이스트(KAIST)의 애저 AI 기반 교통 예측, 예방 및 지역별 교통 수요 제어 프로젝트가 소개됐다. MS는 국내에서 SSG와 아시아나의 챗봇 시스템을 구현했고 365mc와 AI 지방흡입 기술 등을 개발했다.