"인공지능, 언제든지 종료할 수 있는 스위치 필요하다"

AI, 언제든지 끌 수 있는 스위치 필요해
구글, MS, 아마존 등 AI 연구 경쟁
기대와 우려가 공존하는 AI기술

영화 터미네이터 속 살인로봇

[아시아경제 안하늘 기자]인공지능(AI)이 인류를 위협할 때를 대비해야한다는 주장이 나왔다. 언제든지 로봇의 전원을 종료할 수 있는 '스위치' 등 AI를 통제할 수단이 필요하다는 설명이다.

3일(현지시간) 정보기술 전문매체 더버지는 구글의 AI 연구소와 옥스퍼드대학에서 수행한 연구 자료를 인용해 이같이 보도했다.

이들은 '안전하게 정지 시킬수 있는 로봇(Safely Interruptible Agents)'이라는 논문에서 "로봇이 인간의 실시간 통제 아래에 있으려면 로봇이 유해한 행위를 하려 들 때 강제로 멈출 수 있는 물리적인 스위치가 필요하다"고 밝혔다.

연구팀은 "머신러닝(Maching Learning)은 끊임없이 학습하고 유추하기 때문에 인간의 통제를 벗어날 수도 있다"며 "종국에는 인간이 시스템을 종료하려는 시도조차 차단할 수 있을 것"이라고 설명했다.

이미 구글, 마이크로소프트(MS) 등 거대 IT공룡들은 AI 개발에 박차를 가하고 있다. 구글의 딥마인드가 개발한 알파고는 바둑기사 이세돌마저 꺾으며 AI가 점령하기 어려울 것으로 예상됐던 바둑마저 점령했다.

반면 AI에 대한 우려도 커지고 있다.

AI 분야의 최고 석학인 닉 보스트롬(Nick Bostrom) 영국 옥스퍼드대학교 철학과 교수, 로랑 오르소(Laurent Orseau) 딥마인드 개발자는 물론 자율주행자동차로 유명한 테슬라의 최고경영자(CEO) 일론 머스크까지 이 같은 우려를 나타났다.

일론 머스크는 "친한 친구인 구글 공동창업자 래리 페이지 때문에 두려워 밤잠을 잘 수 없다"며 "래리가 인류를 파괴하는 능력을 갖춘 AI 로봇을 만들까봐 무섭다"고 말하기까지 했다.

하지만 래리 페이지는 지난해 12월 IT 전문지 와이어드와의 인터뷰에서 "인간에게 해를 끼칠 AI에 대응하는 최선책은 AI 접근권을 제한하는 것이 아니라 오히려 확대하는 것"이라며 "오픈AI의 전문가들이 개발한 AI 기술을 오픈소스로 사람들에게 무상 제공할 것"이라고 말했다.

안하늘 기자 ahn708@asiae.co.kr