[충무로에서]크고 빨간 정지버튼

김도현 국민대 경영학 교수

알파고 충격 이후 인공지능에 관한 이야기가 자주 눈에 들어옵니다. 그리고 종종 마음이 서늘해집니다. 인간은 결국 인공지능과 로봇에게 주도권을 빼앗기고 이등시민이 되는 것은 아닌지, 더 나아가 인공지능으로 인해 인류에게 거대한 재앙이 일어나는 것은 아닌지 하는 걱정이 들어서지요. 특히 최근 인공지능의 주류로 등장한 강화학습 기법은, 인공지능이 목적을 달성하기 위해 어떤 방법을 선택할지 스스로 학습하게 한다는 점에서 더 불안하게 느껴집니다.

최근 한 연구자는 테트리스 게임을 하는 인공지능을 개발하면서, "절대로 지면 안 된다"는 목적을 부여했더니 인공지능이 게임자체를 멈추어버린 사례를 보고하고 있습니다. 지지 않는 제일 간단한 방법을 찾은 거지요. 인공지능에게 지구의 환경파괴를 멈추는 방법을 찾도록 하면 인류를 지구에서 제거하려고 들 거라는 이야기도 있습니다. 물론 인간은 어느 순간 인공지능이 괴상한 방식으로 문제를 풀려고 한다는 것을 깨닫게 될 겁니다. 그러나 인공지능에게 일정한 목적을 부여하는 순간, 인공지능은 그 이후에 일어날 인간의 행위도 학습을 통해 예측하고, 이를 회피하는 방법까지 찾는다는 게 함정입니다. 좀 과장하면, 터미네이터에서 본 인공지능의 세계정복이 일어날 수도 있다는 뜻입니다.

이런 점 때문에 인공지능 연구 자체를 통제해야 한다는 주장을 하는 이들이 있습니다. 물리학자 스티븐 호킹, 세계적인 창업자 일런 머스크, 그리고 철학자 닉 보스트롬 같은 이들이 대표적입니다.

이런 어수선함을 놓치지 않고, 인공지능에 관한 다양한 사업과 조직이 탄생하고 있습니다. 크게 다르지 않은 인공지능 관련 대중강연들이 높은 비용에도 불구하고 성업 중이고, 전문가라고 보기에는 좀 야릇한 외국 인사들이 인공지능을 운운하면서 우리나라를 자주 방문하고 있습니다. 정부와 민간기업들이 연합해서 우리나라가 인공지능 연구에서 구글을 뛰어넘도록 하겠다는 지능정보기술연구소 구상이 실현단계에 접어들었습니다. 인공지능이 시나리오를 쓴 영화가 개봉한다는 소식이 들리더니, 며칠 전 저는 서울 강남의 대치동에 드디어 인공지능시대 대비 사교육프로그램이 시작되었다는 소식마저 들었습니다. 물론 대학들도 예외는 아닙니다. 인공지능과 관련된 전공이 급조되기도 하고, 인공지능에 직업을 빼앗길 전공분야를 없애야 한다는 목소리도 점점 커지고 있습니다.

새로운 시대를 준비해야 한다는 점은 너무도 당연한 일입니다. 저 역시 우리나라의 기업들과 제가 가르치는 학생들에게 도대체 어떤 변화가 일어날 것이며, 이에 맞서 어떻게 준비해야 할 것인지 끙끙거리고 고민합니다. 그러나, 지금처럼 변화의 방향을 예측하기가 극도로 어려운 경우, 우리는 오히려 기본을 깊이 생각해볼 필요가 있습니다. 어설프게 새로운 사업에 뛰어들기보다는 우리 기업이 가진 가장 중요한 핵심역량은 무엇인지 꼼꼼히 인식하는 것. 길고 복잡한 이름의 학과를 신설하는 대신, 기초학문의 근간을 다지는 것. 그것이 어쩌면 더 시급하고 중요한 일인지도 모릅니다.

전통적으로 학문의 근간을 이루어왔던 이른바 문사철 학과들뿐 아니라, 모든 공학의 기초라고 할 수 있는 수학과 자연과학의 학과들마저 급속히 사라져가고 있는 현실이 신속한 적응의 결과인지 부박한 편승인지 생각해볼 필요가 있는 듯 합니다. 사실 최근 일어난 인공지능 연구의 비약적 발전 역시 모두가 포기한 인공신경망이론을 끈질기게 부여잡고 있었던 소수의 고집스러운 연구자에 의해 이루어진 것입니다.

그리고 저는 인간이 결국 어떻게 해서든 인공지능을 통제하는 데 성공할 것이라는 기대를 가지고 있습니다. 알파고를 만든 구글딥마인드 소속의 수학자와 옥스포드의 연구자가 함께 쓴 최근의 한 논문(Safely Interruptible Agents)은 인공지능이 인간의 방해를 회피할 수 없도록 하는 수학적 방안을 제안하고 있습니다. 모든 인공지능에 이른 바 '크고 빨간 정지 버튼'을 달아볼 수 있으리라는 희망인 셈입니다.

김도현 국민대 경영학 교수