과기부, AI 안전 위한 전문가 의견 청취…"국가 안보 문제로 확장 가능"

과학기술정보통신부(과기정통부)는 AI 및 보안 전문가를 한데 모아 AI 안전 생태계 조성을 위한 의견을 들었다. 전문가들은 AI 안전 문제를 국가 안보까지 담론을 확대해 논의해야 한다고 지적했다.

과학기술정보통신부(과기정통부)는 6일 서울 중구 은행회관에서 'AI 안전 생태계 조성 마스터플랜 의견 수렴 간담회'를 열었다. 공병선 기자

과기정통부는 6일 서울 중구 은행회관에서 'AI 안전 생태계 조성 마스터플랜 의견 수렴 간담회'를 열었다. 간담회는 한국정보통신기술협회, 인공지능안전연구소와 함께 진행했다.

간담회에 참석한 곽준호 한국정보통신기술협회 팀장은 발제에서 AI로 인한 보안 위험이 국가 안보 문제로 확장할 수 있다고 경고했다. 곽 팀장은 "AI에 대한 우리의 통제권을 잃기 전에 AI 활용 영역을 정해야 한다는 목소리가 있다"며 "AI가 여론 조작이나 사이버 테러 등 굉장히 큰 국가 안보 문제로도 확장이 가능하다"고 말했다. 이어 곽 팀장은 AI 위험으로부터 국민을 지키기 위한 안전 환경을 조성해야 한다고 강조했다.

시민사회, 학계 및 산업계 전문가들은 토론에서 AI 활용 범위가 넓어지는 만큼 안전성 확보를 위한 노력이 필요하다고 강조했다. 이지은 참여연대 선임간사는 "AI로 불이익을 받았을 때 왜 그런 결과가 나왔는지, 어떤 절차로 구제받을 수 있는지 절차 및 설명이 보이지 않는다"고 지적했다. 정지연 한국소비자연맹 사무총장은 "자율에만 맡기면 결국 안전 문제를 국민에게 전가하는 것"이라고 말했다.

김경훈 카카오 AI 세이프티 리더는 안전에 관한 논의가 더 활성화돼야 한다고 강조했다. 그는 "오픈 소스 커뮤니티를 통해 AI가 빠르게 발전하고 있는데 안전에 대한 평가, 기술 등에 대한 오픈 소스 커뮤니티도 확산돼야 한다"며 "(해외에 비해) 한국은 상대적으로 이같은 커뮤니티가 빈약하다"고 말했다. 아울러 "안전을 기술로 접근하는 것도 중요하지만 공론화를 통해 안전에 대한 개념을 생각하는 것도 중요하다"며 "정부에서 많이 노력해준다면 안전 생태계 관점에서 큰 도움이 될 것"이라고 설명했다.

이상근 고려대 정보보호대학원 교수는 "우리는 산업 분야, 특히 금융, 의료, 공공 분야에서 다른나라와 비교할 때 빠른 속도로 AI를 받아들이고 있다"며 "하지만 안전과 신뢰, 보안에 대한 문제가 굉장히 크다. 안전과 보안에서 더 나아가 국가 안보까지 담론을 확장해야 한다"고 말했다. 또한 "AI 안전에 대해 논의할 때 우리는 주로 범용 AI에 대해서만 논의한다"며 "독일은 금융, 의료 등 각론으로 접근 중인데 이를 참고해서 AI의 보안 위협과 관련된 논의를 확대해야 한다"고 말했다.

김명주 인공지능안전연구소장은 AI 활용 기반을 마련하기 위해 인프라 등을 구축하고 있다고 설명했다. 그는 "AI안전융합센터를 기반으로 AI 안전 관련 다학제 융합 인재 양성 계획을 세우고 있다"며 "AI 안전 평가와 법 제도 표준을 만들고 안전성 검사를 위한 연구소의 테스트베드(신기술 등을 테스트하는 플랫폼) 인프라를 기업 및 연구자와 공유하겠다"고 말했다. 과기정통부는 상반기 중에 간담회에서 나온 의견을 반영해 국가 AI 안전 생태계 조성 마스터플랜을 발표할 예정이다.

공병선 기자 mydillon@asiae.co.kr