AI안전연구소장 "규제기관 아냐…AI기업 해외 진출 장애물 없게 할 것"

김명주 초대 소장 "국제 공조 활발히"
딥페이크 대응 기술 논의선상에 올라
영국은 130명…인력 등 한계 드러나

김명주 인공지능(AI)안전연구소장은 "우리나라 AI 기업이 세계로 나아갈 때 장애물이 없도록 하겠다"며 "규제 기관이 아닌 협력 기관이 되겠다"고 밝혔다.

김명주 AI안전연구소장이 27일 열린 개소식 행사에서 연구소의 비전과 역할에 대해 설명하고 있다. 과학기술정보통신부 제공

김 소장은 27일 경기도 판교 글로벌 R&D센터에서 AI안전연구소 개소식 행사를 마친 뒤 기자들과 만나 "국제 공조를 통해 AI 안전과 관련된 표준을 논의하고, 우리 의견을 낼 수 있는 부분은 내겠다"며 이같이 말했다.

또한 그는 "AI 기본법이 국회를 통과할 것을 기대하고 있어서, 향후 유럽연합(EU)의 AI법과 호환성을 가졌으면 좋겠다"는 입장을 드러냈다.

김 소장은 최근 미국 샌프란시스코에서 열린 '국제 AI안전연구소 네트워크' 출범식에 참석해 글로벌 연대의 첫걸음을 뗐다. 이 네트워크는 미국, EU, 캐나다, 프랑스, 싱가포르, 일본 등 10개국으로 이뤄졌다.

김 소장에 따르면 네트워크 의장국은 미국으로 정해졌고, 부의장국은 내년 2월 프랑스 파리에서 열릴 AI 안전 정상회의에서 결정하기로 했다.

27일 경기도 성남시 분당구 글로벌R&D센터에서 열린 AI안전연구소 개소식에서 참석자들이 기념촬영 하고 있다. (왼쪽 네 번째부터)최장혁 개인정보보호위원회 부위원장, 염재호 국가인공지능위원회 부위원장, 류광준 과학기술정보통신부 과학기술혁신본부장, 김명주 인공지능안전연구소장. 과기정통부 제공

한국은 영국과 미국, 캐나다, 싱가포르, 일본 등 5개 국가와 업무협약(MOU)을 체결하기로 약속했고, 국가 간 기술·인력·정책교류를 활성화할 방침이다.

현재 AI가 직면한 위험성은 ▲기술적 한계(오작동, 환각, 편향성) ▲통제력 상실( 자율복제, AI 무기체계, 초지능) ▲인간의 오용(유해 정보, 사이버 해킹, 딥페이크) 등이 있다.

김 소장은 "국제적으론 딥페이크나 합성생성물의 위험성에 대해 논의했고, 워터마킹·레이블링 등 AI로 제작됐다는 사실을 증명하는 기술을 교류했다"면서 "우리나라도 딥페이크 대응을 위한 내년 예산을 잡아놓은 만큼 이에 대한 AI 안전 평가 수행이 이뤄질 것"이라고 말했다.

이날 AI안전연구소를 구심점으로 국내 산학연 24개 기업·기관이 참여하는 'AI안전컨소시엄'도 출범했다. 김 소장은 컨소시엄에 대해 "각 기업과 대학에서 본인들이 할 수 있는 게 무엇인지 제시했다"며 "안전 규제가 장애물이 되지 않도록 솔루션을 공유하게 될 것"이라고 설명했다.

다만 AI안전연구소가 ETRI 부설기관으로 설립된 만큼 한계점도 드러났다. 국제적 공조를 다지고 AI 안전성에 대한 촘촘한 지원을 하기엔 인력이 부족하다는 평가다. 현재 ETRI 인력 8명이 파견된 상태로 내년 1월까지 총 18명까지 충원한 뒤 30여명 규모로 운영될 예정이다.

영국의 경우 이미 작년에 AI안전연구소가 설립됐으며 인원은 총 130여명에 달한다. 이들의 연봉은 한화로 2억원에 달할 만큼 처우가 좋아 우수 인력을 확보하기 용이하다는 평가다.

김보경 기자 bkly477@asiae.co.kr