[AI 안전성 위기]"韓, 더 늦으면 글로벌 진입도 어려워"…'룰 메이커' 되려는 EU·미국

"글로벌 경쟁 위해 AI기본법 서둘러야"
EU·미국, AI법·행정명령 마련하며 룰 셋팅
韓, AI기본법은 국회 계류 중

"인공지능(AI)에 대한 규범을 마련하지 않으면 국내 기업들이 글로벌 시장에서 경쟁하기 어려워질 수 있습니다."

급속도로 발전하는 AI 기술에 안전장치를 마련해야 한다는 목소리가 높아지고 있다. 유럽과 미국을 필두로 제도적 장치 마련되면서 국내에서도 법안 마련이 시급하다는 것이다. 글로벌 표준보다 뒤처질 경우 국내 AI 산업의 발전과 성장이 제한될 수 있다. 김명주 국제인공지능윤리협회장(서울여대 바른AI연구센터장)은 "규제 사각지대에 있던 국내 AI 기업이 유럽 등 해외에 진출하게 되면 예상치 못한 장애물을 만날 수 있다"며 "해외 규제에 맞춰 AI 기술 개발을 다시 하거나 블로킹 대상이 되지 않도록 공통 규범 마련이 필요하다"고 강조했다.

[AI 안전성 위기]"韓, 더 늦으면 글로벌 진입도 어려워"…'룰 메이커' 되려는 EU·미국

김명주 국제인공지능윤리협회장(서울여대 바른AI연구센터장)

우리보다 앞서 유럽연합(EU)은 일명 'AI법'을 준비해 2026년부터 본격 시행한다. ▲최소위험 ▲제한된 위험 ▲고위험 ▲수용불가 등 4가지로 AI 관련 위험을 분류하고 각각에 대한 규제를 담았다. 특히 제한된 위험은 챗봇, 딥페이크 위험이 있는 것을 대상으로 해 AI 생성 콘텐츠임을 밝히도록 했다. 인프라 관련은 고위험으로 분류됐는데 보안, 관리, 추적 시스템 등을 통해 투명성 의무를 부여했다. 수용불가는 인간의 잠재의식 조작, 생체정보분류시스템 관련 AI를 대상으로 하며 중대 범죄를 제외하고 원칙적으로 활용이 금지된다.

미국도 지난해 10월 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'을 마련했다. 미국 기업들에 개발 AI가 국가 안보나 경제 및 건강상 위험을 초래할 경우 이를 연방 정부에 통지하고 AI에 대한 안전 테스트 결과 및 주요 정보를 정부와 공유하도록 했다. 연방 정부 기관은 AI 활용 시 내용 공개, 부작용 검증 및 모니터링을 해야 한다.

김 회장은 "EU의 AI법은 겉으로 볼 땐 규제 일변도인 것 같지만 그 안에 진흥을 위한 항목도 따로 있다"며 "AI 관련 기술의 발전 속도가 빠르기 때문에 유럽의 AI법과 같이 우선 추상적으로 정의한 뒤에 시행세칙 등을 통해 구체적인 안을 마련하는 것이 바람직해 보인다"라고 했다.

유럽, 미국 등에서 AI와 관련된 규제를 본격 시작했다. 특히 영국과 미국은 AI 안전에 대한 지식과 정보 등 안전성을 점검하는 데 상호 협력하는 양자 간 협정을 맺어 협력도 추진하고 있다. 하지만 국내에선 법안 마련은커녕 국회 논의도 제대로 진행되지 않고 있다. AI기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 법률안)이 발의됐지만 국회에 계류 중이다. 21대 국회 임기가 종료되기 전 본회의를 통과하지 못하면 자동 폐기된다.

AI 스타트업도 사전 규제를 하는 것에 대해 경계했지만 기반 마련을 위한 입법에는 동감했다. 익명을 요구한 AI 스타트업 대표는 "그간 이뤄진 투자에 대해 AI의 경제적 가치를 입증해야 하는 시기인데 규제는 시장이 만들어지고 기업이 성장하기 전에 이를 무너뜨릴 수 있는 요인이 될 수 있다"면서도 "선허용 후규제, 민간 자율 점검 등의 정책 방향성이 필요하지만 다른 관점에서 AI 상용화에 법적·행정적 기반이 필요한 것이 사실이어서 이를 반영한 입법이 필요하다"고 했다.

국내 AI기본법 제정에 지체되는 상황에서 다음 달 21~22일로 예고된 한국·영국 정부 공동 개최 'AI 서울 정상회의'가 변곡점이 될 수 있다. 지난해 11월 영국에서 열린 'AI 안전성 정상회의' 후속 회의로 AI 안정성, 혁신 촉진 등을 논의하고 구체적 협력 방안을 공유한다. 김 회장은 "영국은 브렉시트로 유럽연합(EU)에서 탈퇴한 상황이어서 AI 관련 법 마련에서도 현재 우리와 마찬가지로 EU와 미국의 사이에 있다"라며 "양국이 유사한 상황에 놓여있기 때문에 보조를 맞출 수 있고 규제 방향, 산업 진흥에서 건설적인 회의도 가능할 것"이라고 했다.