"AI 오남용 막아라" 英에서 첫 'AI 정상회의' 개최…규제 도입 본격화

G7, 행동강령 내놓고…美는 행정명령 준비
AI 기술 위험·오남용 방지 초점
규제 주도권 쥐기 위한 경쟁도 '치열'

내달 1일 영국에서 사상 첫 'AI 정상회의'가 개최되면서 전세계적인 관심이 집중되고 있다. 올해의 주요 키워드로 떠올랐던 생성형AI, 챗GPT의 출시 1주년을 앞두고 AI의 사회·경제적 영향을 제어하기 위한 규제 도입이 본격화될 것으로 예상된다.

그동안 허위 정보 유포를 비롯한 각종 AI 오남용 사례가 등장하면서 앞으로 국제적 차원에서 이를 막고 AI에 따른 일자리 상실 등 부작용을 방지하기 위한 대책 마련에 각국이 나설 것으로 기대된다.

[이미지출처=로이터연합뉴스]

영국 정부가 주도해 다음달 1~2일 세계 첫 'AI 안보 정상회의(AI Security Summit)'가 개최된다. G7은 첨단 AI 시스템 개발 기업을 위한 행동 강령에 합의할 것으로 예상되고, 조 바이든 미국 행정부도 연방정부 차원에서 AI에 따른 사회·경제적 타격을 줄이기 위한 행정명령을 발표할 것으로 전망된다.

규제를 집행하는 주체가 명확하지 않다는 지적이 나오지만, 각국이 미래를 뒤흔들 AI의 규제를 만드는 주도권을 쥐기 위해 물밑에서 치열하게 경쟁을 벌이고 있다.

英서 열리는 첫 AI 정상회의…어떤 결과 도출할까

다음 달 1~2일 영국 정부가 개최하는 AI 안보 정상회의에는 G7을 비롯한 주요 국가 정부 고위 관계자와 테크 기업 임원, AI 전문가가 참석한다. 카멀라 해리스 미국 부통령, 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO), 샘 올트먼 오픈AI CEO가 참석하며 한국에서는 네이버, 삼성전자가 초청을 받았다.

영국 블레츨리파크 캠퍼스에 모이는 참석자들은 AI의 위험성을 공유하고 공동 대책을 논의한다. AI가 사이버 보안이나 선거 등에 미칠 영향을 검토하고 AI가 어떻게 규제되는 것이 적절할지에 대해 의견을 나눌 예정이다. 영국은 이번 행사를 계기로 런던에 세계 최초 'AI 안전 연구소(AI safety institute)'를 설립하겠다고 밝힌 상태다.

이번 행사는 올해 생성형 AI가 확대 보급돼 정치·사회·경제 등 전 분야가 큰 영향을 받으면서 규제의 필요성이 커지자 마련됐다.

리시 수낙 영국 총리 [이미지출처=로이터연합뉴스]

AI 업계의 세계적인 석학인 요슈아 벤지오 캐나다 몬트리올대 교수는 최근 공식 석상에서 이 행사에서 기대하는 바에 대해 질문을 받고는 AI 시스템이 안전하지 않다고 여기면 사용을 못 하도록 하는 등록, 라이선스 제도를 도입하는 것을 제한하면서도 행사 이틀 만에 결과물을 내놓기는 어려울 것이라고 내다봤다. 그러면서 "국제 조약과 협정을 만드는 건 훨씬 더 많은 시간이 걸릴 것"이라면서 "빠르게 구현할 수 있는 작은 단계부터 시작해야 한다"고 강조했다.

"G7, 행동 강령 도입 합의…구속력은 없어"

G7 국가는 우선 행사 하루 전인 30일(현지시간) 첨단 AI 시스템 개발 기업을 위한 행동 강령을 도입하는 데 합의할 것으로 전망된다. 주요 외신에 따르면 행동 강령에는 AI 시스템 개발 업체가 AI로 인해 발생할 수 있는 위험을 사전에 식별하고 평가해 이를 완화하기 위한 조치를 취하고 출시 이후 발생하는 사고 등을 처리하도록 하는 내용이 포함된다. 또 AI 시스템의 기능이나 한계, 오사용 등과 관련한 공개 보고서를 내놓고 보안 시스템 관련해 투자하라는 내용이 담길 예정이다.

캐나다, 프랑스, 독일, 이탈리아, 일본, 영국, 미국과 유럽연합(EU)으로 구성된 G7 경제 지도자들은 앞서 지난 5월 일본에서 열린 G7 정상회의에서 AI 공동 규제안인 '히로시마 AI 프로세스' 논의를 시작했다. 그동안 EU는 강력한 AI 법을 통한 신기술 규제에 앞장섰고, 일본과 미국 등은 경제 성장을 촉진하기 위해 상대적으로 간섭을 최소화하는 접근 방식을 취하는 등 입장차를 보여왔다.

이번에 합의한 내용은 자발적인 행동 강령으로 구속력은 없을 것으로 보인다. 생성형 AI 관련 개인정보보호 문제와 보안 위험 등이 커지는 상황에서 주요 국가가 AI를 관리하는 과정에서 이번 행동 강령은 기준점이 될 것이라고 외신은 전망했다.

美, 연방정부 차원 AI 행정명령 준비

G7의 이러한 행동 강령과는 별개로 미국은 AI가 미칠 사회·경제적 타격을 줄이기 위해 연방정부 차원의 조치를 도입키로 했다.

조 바이든 미국 대통령 [이미지출처=AP연합뉴스]

블룸버그통신은 자체 입수한 문서를 인용해 최근 바이든 행정부가 연방 정부의 AI 활용과 관련해 규제하는 행정명령 초안을 마련, 30일 발표할 예정이라고 보도했다. AI 시스템을 이용하는 고객으로서 정부가 별도 규정을 도입해 MS나 아마존이 자체 개발하는 AI에 이를 반영할 수 있게끔 하겠다는 판단이다.

블룸버그가 보도한 행정명령 초안에 따르면 미 노동부는 AI로 인해 대체될 인간의 일자리에 대해 조사하고 AI가 주도하는 채용 시스템이 각종 차별을 만들지 못하도록 방지하는 지침을 작성할 것으로 보인다. 미 백악관은 또 기본권 침해나 차별에 관한 기존 법 시행을 보장하기 위해 법무부가 관련 기관과 협력하도록 지시한다.

이뿐만 아니라 AI 전문 지식을 갖춘 외국인 근로자에 대해 비자 요건을 간소화하도록 조치하고 AI 및 기술 인재 태스크포스를 소집한다.

동시에 개인정보 보호와 관련해 연방정부가 AI를 활용해 시민들의 정보를 수집할 때 AI 기술이 어떻게 사용되는지 공개하도록 하는 내용이 담길 예정이다. 또 국방부와 국토안보부가 핵심 인프라와 소프트웨어의 취약점을 탐지하고 해결하는 데 도움이 되는 AI 기술을 개발, 배포하는 등 AI 사용 전략도 구축한다.

블룸버그는 "연방 지도자들이 AI로 인한 위험성에서 미국인을 보호하기 위해 규제를 해야 한다는 것에 관심을 보여왔지만, 아직 전면적인 대응은 나오지 않았다"면서 "바이든의 (행정명령 도입) 지시는 정부 차원의 전략을 통해 AI의 안전하고 책임감 있는 도입을 목표로 한다"고 설명했다.

[이미지출처=로이터연합뉴스]

'AI 규제, 누가·무엇을·어떻게 해야 하나' 의문 남아

미국과 EU, 영국 등 주요국이 AI 규제 도입에 앞다퉈 나서고 있는 것을 두고 규제 주도권을 쥐기 위한 경쟁이 심화하고 있다는 평가가 나온다. EU가 선제적으로 강력한 AI 관련 법을 마련한 상태에서 EU의 규칙이 곧 세계 표준이 되는 이른바 '브뤼셀 효과'를 미국이 원치 않아 규제 도입을 서두르고 있다고 전문가들은 보고 있다.

다만 AI 기술 개발이 빠르게 이뤄지고 있는 상황에서 이로 인한 사회·경제적 타격이 어느 정도일지 예측이 안 되는 데다 규제 주체나 규제 대상·목표가 불분명하다는 지적이 이어진다. 미국과 영국은 정부 기관이 규제를 할 수 있다고 보고 있으나 EU는 규제 기구를 신설하는 방안을 주장하고 있다고 영국 주간지 이코노미스트는 전했다.

헨리 패럴 존스홉킨스대 교수는 이코노미스트에 "행동을 하겠다는 의지는 있지만 어떻게 관리를 해야 하는 건지는커녕 어떤 문제를 다뤄야 하는지조차 어느 정도 합의에 도달한 컨센서스가 그 어떠한 것도 없다"고 말했다.

정현진 기자 jhj48@asiae.co.kr