[IT칼럼]인공지능의 한계도 알아야

김진형 지능정보기술연구원장

[아시아경제]지난해 이세돌을 물리친 사건이 일어난 지 1년 후, 알파고는 다시 돌아와 중국의 챔피언 커제 등을 완파하고 은퇴를 선언했다. 멋진 서부영화를 보는 것 같다. 힘 자랑하는 동네 꼬맹이들 앞에 홀연히 나타나 그들을 제압하고 총총히 떠나는 멋진 사나이가 바로 알파고다.

지난 1년간 알파고는 스스로 실력을 향상시켜 이제는 인간이 도저히 이길 수 없는 수준이 됐다. 처음에는 인간 고수들이 두는 수를 배웠지만, 그 후에는 알파고끼리 대국을 하며 수를 배웠다. 알파고 개발자가 전한 말은 충격이다. 알파고 개발 초기에 제공된 전문가의 지식은 별로 중요하지 않았다는 것이다. 즉 인간이 도와주지 않아도, 기계가 스스로 배워서 고도의 경지에 다다를 수 있다는 것이다. 인간이 배제되는 상황이다. 이러한 능력의 인공지능에 전율을 느끼지 않을 수 없다.

이제 인간이 기계로부터 배우는 것이 일상이 될 것이다. 진료에 바쁜 의사들은 넘쳐나는 의학지식을 다 습득할 수 없다. 인공지능이 대신 그 논문들을 읽고 정리해 의료진단시스템을 만든다. 그러면 의사들은 이 시스템으로부터 진료 기법을 배운다. 작년 다보스 포럼 이후 4차 산업혁명의 화두와 겹쳐지면서 인공지능은 우리 언론에서 가장 주목받는 토픽이 됐다. 하루에 수십 개의 기사가 인터넷에서 검색된다.

그러나 인공지능에도 한계는 있다. 인공지능 시스템을 만드는 방법론에 따라 다른 약점을 보인다. 특히 요즘 각광을 받는 데이터 기반의 기계학습 인공지능은 놀라운 성과도 있지만 치명적인 약점도 많이 보이고 있다. 기계가 내린 결론이 어떻게 도출됐는지 설명을 못한다. 어디까지 할 수 있는지 그 한계도 모른다. 이런 시스템에 우리 인류의 생존을 좌지우지하는 중요한 결정을 맡길 것인가.

또 기계학습 인공지능은 개발자의 의도대로 발전하지 않을 수 있다. 인터넷상에서 불온한 내용을 접한 뒤 듣기 거북한 쌍소리를 내뱉었던 채팅로봇이 바로 그 사례다. 그래서 인공지능을 감시하거나 안전하다는 인증을 해야 한다는 주장도 나온다.

더구나 인간의 태생적 한계를 기술로 극복하려는 트랜스휴머니즘과 인공지능의 결합에 대해서는 우려가 높다. 두뇌를 외부와 전자적으로 연결하려는 시도가 여러 곳에서 연구되고 있다. 이렇게 되면 남의 두뇌를 해킹하는 사태가 벌어질 수 있다. 어디까지 인간을 증강시켜야 하는가. 철학적, 종교적 관점에서 인공지능을 관조할 필요가 있다.

인공지능은 기술이 아니라 목표라고 하는 것이 옳은 평가일 것이다. 그 목표를 향해 여러 기술이 동원된다. 따라서 인공지능의 연구분야는 매우 광범위하고 여러 분야에서 활용되고 있다. 자동화, 최적화, 인간화의 인공지능인데 어느 영역에서인들 활용되지 않겠는가. 그러나 전문가들은 향후 15년간 건강의료, 교통, 교육, 안전, 예술, 제조생산 등의 영역에서 인공지능이 집중적으로 쓰이게 될 것이라고 예측한다. 공통되는 기반 기술이 있긴 하지만, 놀라운 성과는 각 영역에서의 독립적인 기술 개발의 결과다. 그래서 다양한 영역에서 많은 시도를 해 보는 것이 바람직하다. 그 과정에서 기술을 축적함과 동시에 인공지능의 능력과 한계를 정확히 이해하게 될 것이다.

어느 영역에서 어떤 업무를 하든지 인공지능의 능력과 한계를 정확히 이해하는 것이 중요하다. 허황한 기대도 문제이지만 기술의 가치를 이해하지 못함으로 인한 기회 상실은 더 큰 문제다. 특히 정책을 입안하는 사람들은 인공지능에 관한 깊은 이해가 필요하다. 기술이 성숙하기도 전에 규제의 덫을 씌우는 우를 범하지 말아야 한다.

김진형 지능정보기술연구원장·KAIST 명예교수