네이버, 유엔 AI 자문기구 보고서 작성 참여…"기업·정부·학계 협력"

하정우 네이버클라우드 AI이노베이션센터장 인터뷰

네이버가 국제연합(유엔)의 인공지능(AI) 고위급 자문기구에 기술지원(테크니컬 엑스퍼트) 자격으로 참여하고 있다. 유엔은 AI 국제기구 설립을 추진하기 위해 지난해 하반기 자문조직을 만들었는데, 향후 글로벌 AI 정책에서 국내 테크기업들의 목소리가 반영될 가능성에 무게가 실린다.

하정우 네이버클라우드 AI이노베이션센터장은 27일 아시아경제와 만나 "국제연합(유엔)의 AI 고위급 자문기구(AI Advisory Body)가 작성중인 보고서에 네이버가 테크니컬 엑스퍼트(기술전문가)로 참여하고 있다"고 밝혔다.

유엔 AI 고위급 자문기구는 AI의 국제적인 거버넌스 문제를 해결하기 위해 전 세계 전문가 및 정부 관료, 학자 39명으로 구성된 기구로 지난해 10월 출범했다. 우리나라에선 고학수 개인정보보호위원회 위원장이 선발돼 자문위원으로 활동 중이다.

이 기구는 1년간 교육·환경·보건 등 여러 분야 이해관계자의 의견들을 모아 심층분석 후 AI 거버넌스 구축 방향과 국제기구 설립에 대한 권고안 등을 담은 보고서를 펴내게 된다. 보고서 작성엔 네이버뿐만 아니라 카카오 등 국내 기업과 대학교수 등 많은 전문가가 참여하고 있는 것으로 알려졌다.

전문가와 이해관계자들이 각국에 포진된 만큼 미팅은 화상으로 진행된다. 네이버에선 하 센터장이 직접 참여하고 있다. 하 센터장은 "미팅이 새벽에 열려서 곤혹스럽다"고 너스레를 놓으면서 "기술적 관점에서 보고서의 방향이 어떻게 돼야 하는지 실질적 조언을 해주고 있다"고 말했다. 하 센터장은 그러면서 "AI의 안전성을 위해 산업계와 정부, 학계, 국제기구와 같은 다양한 주체가 협력해야 한다"고 강조했다.

네이버가 자문기구에 참여한 건 AI 안전성에 대한 고민의 일환이다. 하 센터장은 "거대언어모델인 하이퍼클로바 공개 전부터 엄청나게 강력한 양날의 검이고, 자칫하다간 굉장히 위험하게 쓰일 수도 있겠다는 생각을 했다"면서 "위험하게 쓰이지 않도록 연구개발을 하는 레드팀을 별도로 구축했다"고 말했다.

AI 레드팀은 조직이나 시스템의 취약점을 발견해 공격하는 ‘레드팀’의 업그레이드 버전으로, AI 시스템의 성능과 신뢰성을 향상하기 위한 역할을 수행한다. 2018년 마이크로소프트에 처음으로 도입된 이후 구글, 오픈 AI 등 다양한 빅테크(대형 정보기술 기업)에서 운영되고 있다.

하 센터장은 "지난 1월 사내 ‘퓨처 AI센터(Future AI Center)’를 신설한 것도 같은 맥락"이라며 "AI 책임성과 안전성 이슈가 글로벌하게 대두되는 가운데 회사 차원에서도 AI 안전 거버넌스를 체계적으로 만들 필요가 있다고 판단했다"고 말했다. 퓨처 AI센터는 AI 안전성을 연구해 책임감 있는 AI 개발을 위해 만든 CEO 직속 조직이다. 현재 하 센터장이 퓨처 AI센터장도 겸임 중이다.

네이버는 또 공익 목적으로 머신러닝 기술을 개발하는 산학 컴소시엄 ML커먼스(MLCommons)에도 참여 중이다. 이 컨소시엄엔 구글·마이크로소프트·삼성전자·인텔·퀄컴을 비롯한 글로벌 기업과 스탠퍼드·하버드 등 유수의 대학이 참여하고 있다.

하 센터장은 "ML커먼스 내 AI 세이프티(Safty) 워킹그룹이 있는데, 이 쪽에서 네이버에 참여해달라는 요청이 있어 수락했다"며 "현재 다양한 글로벌 기업들과 함께 AI-CFT(Cross Functional Team)를 평가하는 벤치마크를 만들고 있다"고 말했다.

하 센터장은 AI 개발에서 사회의 민감한 이슈를 어떻게 정의를 하고 데이터셋을 구성해야 되는지 방법론에 대해서도 역설했다. 그는 "우리나라에서는 연령 지역 그리고 페미니즘이 굉장히 민감하지만 미국은 ‘인종’에 민감한 것처럼 문화, 국가마다 가치에 대한 우선순위가 달라 AI가 학습하는 것도 차이가 있을 수 있다"며 "AI가 범용적 나아가기 위해선 이러한 이슈를 모두 아우를 수 있는 국가와 기업, 개인의 공감대 형성이 중요하다"고 말했다.

강나훔 기자 nahum@asiae.co.kr