LG AI연구원, '인도 AI 정상회의' 초청…글로벌 AI 거버넌스 논의 주도

AI 거버넌스 협력 강화 논의
'AI 위험분류체계 한국판' 공개
'AI 윤리 MOOC 프로젝트'도 알려

LG AI연구원 '인도 AI 정상회의(India AI Impact Summit)'에 참가해 글로벌 인공지능(AI) 거버넌스 논의를 주도했다.

LG AI연구원이 지난 20일(현지시간) 인도 뉴델리 바라트 만다팜(Bharat Mandapam)에서 열린 인도 AI 정상회의에 참가해 책임 있는 AI 생태계 구축을 위한 글로벌 협력 방안과 실행 성과를 공유했다. LG AI연구원은 서울과 파리에 이어 올해 인도까지 3차례 연속 'AI 정상회의'에 초청받아 국내 AI 업계의 목소리를 전달하며, 글로벌 AI 거버넌스 논의에 참여해왔다.

이번 정상회의에서 김유철 LG AI연구원 전략부문장은 유네스코(UNESCO)와 유엔 인권최고대표사무소(OHCHR)가 공동 주관하는 행사에서 구글, 마이크로소프트(MS), 인도 소프트웨어산업협회(NASSCOM), 월드 벤치마킹 얼라이언스(World Benchmarking Alliance) 등 국제기구, 학계, 산업계 주요 인사들과 기업의 책임 있는 AI(Responsible AI) 정책 내재화 및 글로벌 표준의 역할을 주제로 심도 있는 논의를 진행했다.

특히 김 부문장은 이날 LG AI연구원이 개발한 범용 AI 위험분류체계 한국판(K-AUT, Korea-Augmented Universal Taxonomy)을 공개했다.

20일(현지시간) 인도 뉴델리 바라트 만다팜에서 열린 인도 AI 정상회의에서 김유철 LG AI연구원 전략부문장이 발표하고 있는 모습.사진 왼쪽부터 페기 힉스 유엔 인권최고대표사무소 국장, 알렉산드리아 월든 구글 인권 정책 글로벌 총괄, 김유철 LG AI연구원 전략부문장, 헥터 드 리보아르 마이크로소프트 책임 있는 AI 사무국 공공 정책 총괄, 안킷 보스 나스콤 AI 부문 총괄, 나밋 아가왈 월드 벤치마킹 얼라이언스 프로그램 총괄. (주)LG.

김 부문장은 "LG가 개발한 AI 위험분류체계는 유엔 세계인권선언 등 인류 보편적 가치를 기본 토대로 설계하면서도 보편적 원칙만으로는 포착하기 어려운 위험에 대응하기 위해 한국 사회의 법적, 사회적, 문화적 특수성과 멀티 AI 에이전트의 담합, AI 안전장치 우회 등 미래에 발생할 수 있는 위험 요소까지 포괄할 수 있도록 개발했다"고 설명했다.

범용 AI 위험분류체계 한국판은 잠재적 위험을 ▲인류 보편적 가치 ▲사회 안전 ▲한국적 특수성 ▲미래 위험 등 4개 핵심 영역, 226개 세부 위험 항목으로 구성되어 있으며, 항목별 5가지 구체적 판별 기준이 있어 하나의 위반 사항만 발생해도 AI가 부적절한 응답을 했다고 분류한다.

LG AI연구원은 새로운 위험분류체계를 AI 모델과 AI 서비스의 안전성을 검증하고 강화하는 도구로 개발해 실제 LG의 AI 파운데이션 모델인 엑사원(EXAONE)의 안전성 검증에 활용했고, 그 결과를 투명하게 공개하고 있다. 또 한국적 특수성 부분은 각 국가 및 지역의 고유한 특수성을 반영하는 위험 항목으로 대체할 수 있도록 설계해 향후 다른 국가와 지역으로 확장 적용할 수 있도록 했다.

현장에 참석한 페기 힉스(Peggy Hicks) 유엔 인권최고대표사무소 국장은 "LG가 보편적 인권 가치를 토대로 하면서도 특정 사회와 문화의 맥락을 반영할 수 있는 접근 방식을 선보인 것은 우리가 바라는 방향과 정확히 맞닿아 있다"면서 "원칙을 실제 현장에 적용할 수 있는 실용적 도구로 만들고, 그 경험을 다른 국가와 지역이 활용할 수 있도록 공유하는 것이야말로 지금, 이 시점에 반드시 필요한 일"이라고 강조했다.

LG AI연구원은 오는 5월 글로벌 공개를 앞둔 'AI 윤리 MOOC(Massive Open Online Course) 프로젝트'도 소개했다. 이 프로그램은 LG AI연구원과 유네스코가 추진 중인 글로벌 프로젝트로 전 세계 AI 전문가와 연구자, 정책 입안자를 대상으로 AI 기술을 올바르게 개발하고 활용하는 모범 사례를 발굴하고 교육 프로그램을 개발해 제공함으로써 공공 및 민간 분야의 AI 윤리 역량을 강화하기 위한 프로젝트다.

특히 이번 프로젝트는 추상적인 담론에 머물렀던 AI 윤리 원칙을 실제 현장에서 즉시 적용하고 실행할 수 있는 지식으로 전환했다는 점에서 의미가 있다. 이를 위해 LG AI연구원은 독자적으로 개발한 윤리영향평가와 데이터 컴플라이언스 AI 에이전트 등 실전 운영 노하우와 AI 기술들을 투명하게 공개했다.

또 전 세계 39개국 450여 명의 지원자 중 10명의 글로벌 전문가를 선발해 AI 윤리의 기초부터 안전성, 공정성, 지속가능성, 거버넌스 등 글로벌 핵심 의제를 다루는 10개 모듈로 강의를 구성했으며, 미국 하버드대학교, 뉴욕대학교, 노트르담대학교, 유엔대학교, 모질라 재단(Mozilla Foundation), 세계과학기술윤리위원회(COMEST) 등 세계적 AI 연구 기관의 15명의 석학으로 구성된 국제자문위원회도 운영하고 있다.

LG AI연구원은 지난해 '글로벌 AI 윤리 우수 사례 공모전'을 개최했으며, 37개국의 정부, 기업, 시민사회 등이 공모한 120건 이상의 AI 윤리 실천 모범 사례를 교육 과정에 접목해 전 세계의 개발자와 정책 입안자들이 각자의 상황에 맞춰 모범 사례를 벤치마킹할 수 있도록 했다.

팀 커티스(Tim Curtis) 유네스코 남아시아 지역 사무소장은 "이번 MOOC의 핵심은 '설계에 의한 윤리(Ethics by Design)'"라며 "문제가 발생한 이후에 윤리를 묻는 것이 아니라, 처음부터 이 질문을 개발 과정 안에 내재화해야 하며 특히 AI는 언어와 문화 규범, 그리고 각 사회의 제도적 역량에 의해 형성되기 때문에 일률적인 접근만으로는 한계가 있어 다양한 맥락과 관점을 통합함으로써 비로소 윤리 원칙이 이론에서 현실로 나아갈 수 있다"고 말했다.

이어 "MOOC 프로젝트가 전 세계 더 많은 사람이 책임감 있고 포용적이며 공공의 신뢰에 부합하는 방식으로 AI를 개발하고 활용할 수 있도록 돕는 역량 구축의 장이 되길 기대한다"고 강조했다.

김명신 LG AI연구원 정책수석은 "이번 프로젝트는 AI 윤리의 글로벌 표준의 원칙을 현장의 언어로 번역하는 가교로서, AI 윤리 실천 영역에서 막막함을 느끼는 전 세계 전문가들에게 실질적인 이정표가 될 것으로 기대한다"고 말했다.

LG AI연구원과 유네스코는 오는 5월 서울에서 'AI 윤리 MOOC' 론칭 행사를 진행할 예정이다. AI 윤리 MOOC는 글로벌 온라인 교육 플랫폼인 코세라(Coursera)를 통해 누구나 별도 비용 없이 수강할 수 있다.

박준이 기자 giver@asiae.co.kr