"AI 안전성 논의, 점점 뜨거워진다"…무기·범죄·불평등 초점

AI 석학·업계 우려 목소리 커져
영국, 美 실리콘밸리 연구소 설립
AI 위험성 대응책, 미·중간 논의

"지난 한 세기 동안 자동차는 놀라울 정도로 빠르게 발전했지만, 각종 안전 표준을 도입할 수 있는 시간 역시 충분했다. 하지만 앞으로 다가올 물결의 변화 속도를 고려하면 그렇게 될 가능성은 희박해 보인다."

구글 딥마인드의 공동 창업자 무스타파 술레이만은 자신의 저서 <더 커밍 웨이브>에서 이같이 밝혔다. 자동차 기술에 비해 현재 인공지능(AI) 기술이 급속하게 빠르게 발전하고 있어 안전장치를 마련할 시간이 부족하다는 얘기다.

‘AI 대부’로 불리는 제프리 힌턴 토론토대 교수도 최근 영국 BBC 방송 인터뷰에서 AI가 멸종 수준의 위협이 될 수 있다고 경고했다. 그는 AI가 수년 내에 독자적인 사고 체계를 갖고 인간을 위협하며 사회를 장악하려 할 수 있다고 밝혔다. 특히 각국 정부가 AI의 군사적 사용을 규제할 의지를 보이지 않고 있는 사이에 빅테크 기업들은 AI 상품 개발 경쟁을 가속화해온 점을 꼬집었다.

AI 전문가들이 안전성 확보 필요성에 입을 모으는 상황에서 오늘(21일)부터 양일간 대한민국 수도 서울에서는 ‘AI 서울 정상회의’가 열린다. 주요국 정부와 기업, 학계, 시민사회가 한자리에 모여 AI 거버넌스에 대한 일관된 글로벌 전략을 수립하는 자리다. 박상욱 대통령실 과학기술수석은 전날 브리핑에서 "생성형 AI인 챗GPT 등장 이후 AI 위험성이 부각됐다"면서 "AI의 부작용이나 악용 문제에 대응할 필요가 있다"고 밝혔다. 이어 "지난해 영국에서 열린 정상회의가 AI의 안전에 초점을 두고 논의했는데, 이번 회의에선 안전, 혁신, 포용이라는 AI 거버넌스 3원칙을 국제사회에 제시할 방침"이라고 강조했다.

지난해 1차 회의로 스타트를 끊은 영국 정부와 한국 정부가 공동 개최하는 이번 회의에 앞서 영국은 ‘첨단AI 안전성에 대한 국제 과학 보고서’의 중간 보고서를 발간했다. 이 보고서에는 △모든 강력한 기술과 마찬가지로 범용인공지능(AGI)은 해를 끼치는 데 사용될 수 있다 △AGI의 미래 발전은 노동 시장 혼란, 경제적 권력 불평등 등 시스템적 위험을 초래할 수 있다 △AI의 미래는 불확실하며 다양한 시나리오가 가능하다. 사회와 정부의 결정은 미래에 큰 영향을 미칠 것이다 등의 내용이 담겼다. 최종 보고서는 내년 초 프랑스에서 열리는 ‘AI 액션 정상회의’에 앞서 발표될 예정이다. 영국은 최근 미국 실리콘밸리에 AI 안전 연구소의 첫 해외 사무소를 열고 미국과 협력을 추진 중이다.

무역 갈등을 빚고 있는 미국과 중국 역시 AI 위험성 대응에 있어서만큼은 긴밀하게 소통하고 있다. 외신 보도에 따르면 미국과 중국의 고위급 대표단은 최근 스위스 제네바에서 비공개회의를 열고 AI의 군사적 활용 문제 등에 대한 논의에 착수했다. 백악관 측은 "양국 정부가 첨단 AI 시스템의 리스크를 어떻게 이해하고 해결할지에 대해 의견을 교환하는 자리"라고 설명했다. 중국 외교부도 양국이 AI의 기술적 위험과 글로벌 거버넌스 문제를 다룰 것이라고 전했다.