우크라이나·가자지구 지배하는 'AI 킬러 로봇'들…이대로 괜찮나

사단법인 피스모모, 오는 17일 세미나 개최
'AI 무기화에 대해 지금 나눠야 할 이야기' 주제
"AI가 인권과 평화에 초래할 위협·영향 조명"

우크라이나와 팔레스타인 가자지구에서 인공지능(AI)을 활용한 무기가 잇따라 실전에 투입되면서 'AI 무기화'에 대한 우려가 현실로 다가왔다.

윤리적·기술적 차원의 논의가 충분히 이뤄지지 않은 상황이라, AI로 인한 위험이 어느 정도인지 가늠하기도 쉽지 않다. 이런 가운데 AI 무기화가 초래할 각종 위험을 어떻게 규제하고 관리할지 모색하는 자리가 국내에서 마련됐다.

5일 사단법인 피스모모는 'AI 디스토피아 : AI 무기화에 대해 지금 나눠야 할 이야기'를 주제로 오는 17일 서울 종로구 삼청동 블루스퀘어에서 국제 세미나를 연다고 밝혔다.

AI 시스템은 민간인과 전투원을 구분하지 못하거나 잘못된 데이터를 바탕으로 비인도적이고 잘못된 결정을 내릴 위험성이 있다. 인권과 인도주의 원칙을 침해하지 않도록 적절한 규정을 서둘러 마련해야 한다는 지적이 나온다.

피스모모는 "AI 무기화에 따른 윤리적 위험을 최소화하고, AI가 인간의 책임 회피에 이용되지 않도록 강력한 국제 규제와 감독이 필요하다"고 밝혔다. 그러면서 "AI 무기화가 어디까지 진전되었는지, 그에 대한 국제사회의 대응은 어느 정도 준비되었는지, AI가 인권과 평화에 초래할 위협과 AI 군사화가 이 지구에서 살아가는 존재들의 평화롭게 살 권리에 미칠 영향을 조명하기 위해 마련한 자리"라고 세미나 개최 배경을 설명했다.

이날 세미나에서는 토비 월시 호주 뉴사우스웨일즈대학교 인공지능 석좌교수가 기조강연을 맡는다. 월시 교수는 AI 무기화와 관련한 국제논의에서 인권기반 접근의 중심적 역할을 하고 있다. 2018년 한국에서는 카이스트(KAIST)의 무기용 로봇개발에 우려를 표명하고, 전세계 과학자들과 'KAIST 로봇연구 협력 보이콧'을 주도해 화제가 된 바 있다.

토론자로는 사이 부로토(Sai Bourothu) 자동화된 의사결정연구소 연구원, 김동표 아시아경제 콘텐츠편집2팀장, 오병일 진보네트워크 대표가 참석한다. 피스모모 문아영 대표가 사회를 맡는다. 한영 동시통역으로 진행되는 이번 세미나는 피스모모가 주최하고 독일 프리드리히 에버트 재단이 후원한다.

서믿음 기자 faith@asiae.co.kr