[AI 신년인터뷰] 제리 캐플런 “AI, 인류역사 변곡점…두려워할 것 없어”

AI 석학 독점인터뷰② AI시대 낙관한 ‘부머’ 캐플런
"과거 기술 물결처럼 균형 찾고 AI 이점 극대화할 것"

"인공지능(AI)은 두려운 것이 아니다. 반대로 흥분해야 할 일이다. 인류 역사의 변곡점(inflection point)을 볼 수 있다는 것이 진심으로 기쁘다."

‘인공지능의 미래’ 등을 저술한 세계적인 ‘AI 석학’ 제리 캐플런 스탠퍼드대 교수는 2024년 신년을 앞두고 아시아경제와 진행한 인터뷰에서 AI 기술 개발로 인해 "이전에는 상상할 수 없었던 규모로 과학, 기술, 예술, 비즈니스, 지식의 발전이 가속화할 것"이라며 이같이 밝혔다.

제리 캐플런 스탠퍼드대 교수[이미지제공=제리 캐플런]

컴퓨터 공학자이자 미래학자인 캐플런 교수는 그간 불필요한 정보 과잉으로 대중이 AI에 대한 오해와 우려에 사로잡혀있다고 지적해온 인물이다. 이번 인터뷰에서도 그는 AI에 대한 막연한 두려움에 사로잡히지 말고 "고도로 지능화된 기계와 세상을 공유하는 데 익숙해질 필요가 있다"고 주장했다. 이어 "새로운 문제 등이 발생하거나 기존 문제를 악화시킬 수는 있다"면서도 "이전의 새로운 기술 물결에서 그러했듯, 균형을 잡아가면서 (AI 개발에 따른) 위험을 낮추고 이점을 얻어갈 수 있을 것"이라고 강조했다.

캐플런 교수는 일각에서 AI 연구개발을 잠시 멈춰야 한다는 주장이 나오는 것에 대해서는 "강력히 동의하지 않는다"고 일축했다. 그는 "AI는 사회에 새로운 위험과 도전을 제시하지만 인간을 죽일 것이란 생각은 공상과학(SF) 판타지"라며 "AI는 순수하고 단순한 자동화다. AI가 혼란을 가져오는 것은 우리에게 달려있다"고 강조했다. 각국이 논의 중인 AI 규제에 대해서도 "신기술의 이점과 위험을 이해하지 못한 채 성급히 규제에 돌입해선 안 된다"고 제언했다.

다만 캐플런 교수는 당장 생성형 AI 등 AI 신기술이 가져올 수 있는 여러 위험도 인정했다. 그는 "이렇게 강력한 기술은 잘못된 사람의 손에 들어가면 잠재적으로 매우 위험할 수 있다"면서 전쟁, 범죄, 사기, 딥페이크 등을 우려로 꼽았다.

아래는 캐플런 교수와의 일문일답.

-최근 오픈AI 사태는 AI 개발 속도를 둘러싼 부머(boomer, 개발론자)와 두머(doomer, 파괴론자) 간 갈등이 드러난 것이라는 평가가 나온다.

▲오픈AI라는 기업의 혼란을 부머와 두머 간 싸움으로 묘사하는 것은 지나치게 단순화된 것이다. 미숙한 경영진과 이사진이 가세한 부실한 기업지배구조의 결과였다. 또한 어느 기술조직에나 제품 출시(상업화)를 원하는 이와 좀 더 테스트하고자 하는 이들 사이에 자연스러운 긴장감이 있게 마련이다.

많은 정부와 기업들이 AI를 잘못된 목적으로 사용하는 것을 막는 방법을 찾으려고 노력하고 있다. 하지만 분명한 것은 우리는 아직 생성형AI의 위험성을 이해하지 못하고 있고 어떻게 하면 이를 잘 완화할 수 있는지도 모른다는 것이다.

-일부 두머들은 AI 연구개발을 잠시 중단할 것을 제안했는데.

▲강력하게 동의하지 않는다. AI는 사회에 새로운 위험과 도전을 제시하지만 인간을 죽일 것이란 생각은 SF 판타지일 뿐이다. 생성형AI는 여러 측면에서 ‘인간’처럼 보일 수 있으나 독립적인 생각, 감정, 욕구를 가진 존재가 아니다. 그들이 (인류를) 장악하는 것에 대해 걱정할 필요가 없다. 왜냐하면 ‘그들’은 아무것도 원하지 않기 때문이다. ‘그들’이란 존재는 없다. 그러므로 ‘그들’이 ‘우리’에게 오지도 않는다. 이런 의인화된 두려움은 상상일 뿐이다. AI는 순수하고 단순한 자동화다. 좋든, 나쁘든 사람들이 자신의 목표를 추구하기 위해 사용할 도구다. 만약 AI가 혼란을 일으킨다면 그것은 ‘그들’이 아닌 우리에게 달려있다.

-AI가 인류를 컨트롤할 수 있다는 두머들에게 반박하자면.

▲그들의 우려는 지능, 즉 지성이 무한하다는 오해에 기초한다. 또한 우리가 안전하지 않은 시스템을 구축해 큰 피해를 줄 수 있을 만큼 충분히 멍청하다는 데 기인한다. 수많은 기술제품을 개발한 사람으로서 나는 인류를 멸망시킬 수 있는 AI 시스템을 구축하려면 (제2차 세계대전 중 미국이 주도한 핵무기 개발계획인) 맨해튼 프로젝트가 필요하다고 장담할 수 있다. 그리고 그것이 성공할 수 있을지도 의문이다.

우리에게는 많은 경고와 위험을 완화할 수 있는 수많은 방법이 있을 것이다. AI의 위험성을 모니터링하고 규제하려는 건전한 노력은 지지한다. 하지만 나라면 AI의 종말보다 외계인 착륙에 대해 더 먼저 걱정할 것이다.

-하지만 AI의 위험성도 간과할 수 없다. 생성형AI인 ‘챗GPT’ 열풍 이후 AI를 둘러싼 우려와 기대가 더 커졌는데.

▲생성형 AI는 기계가 무엇을 할 수 있는지에 대해 완전히 새로운 사고방식을 요구한다. 사람들을 더 생산적이고, 더 효율적이고, 더 효율적으로 만들 것이다. 다만 이처럼 강력한 기술은 잘못된 사람의 손에 들어가면 잠재적으로 매우 위험할 수 있다. 권위주의자들은 이를 이용해 허위 정보를 퍼뜨리고 반대 여론을 짓누를 것이다. 무서운 새 무기는 전쟁의 성격도 바꿀 것이다. 범죄나 사기에 이용되거나 음란물과 같은 딥페이크도 급증할 수 있다. 또한 많은 사람이 AI에 감정적 애착을 형성할 가능성도 있다. 인간 사이의 상호작용 대신 편안한 AI로 눈을 돌리고 싶은 유혹을 거부할 수 없을 것이다.

-노동시장에 미칠 여파는 어떻게 보나. AI가 일자리를 빼앗아갈까.

▲앞으로 무슨 일이 일어날지 이해하는 가장 좋은 방법은 생성형AI를 산업혁명, 컴퓨터의 등장처럼 자동화의 새로운 물결로 생각하는 것이다. 생성형AI는 작가, 변호사, 의사, 그래픽아티스트, 디자이너 등의 일을 대체하거나 보완할 수 있다. 처음에는 자동화가 인간의 일자리를 빼앗아가는 것처럼 보일 것이다. 하지만 이는 나머지 직원들의 생산성을 높이고 임금 상승, 비용 감소, 수요 증대, 새로운 시장 창출로 이어질 것이다. 직장에서 사람들을 쫓아내는 게 아니라 일의 성격을 바꾸는 것이다.

-AI 규제는 어떠한 방향으로 가야 하나.

▲신기술의 실제 이점과 위험을 이해하지 못한 채 성급하게 규제에 돌입해서는 안 된다고 생각한다. 가장 좋은 접근법은 그 여파를 측정하고 모니터링하기 위한 프레임워크를 설정한 후 필요성이 명확해질 때 규제에 따라 개입하는 것이다. 최근 미국에서 공개된 AI 규제 대통령령은 이러한 정신에 기반하고 있다. 특정 컴퓨팅 파워 임계값 이상의 시스템을 구축하는 연구자는 테스트 결과를 정부에 보고해야 한다. 이는 좋은 첫 단계다.

-AI가 가져올 미래를 감히 상상할 수 없다. 한국 독자들에게 강조하고 싶은 점이 있다면.

▲두려워할 것 없다. 반대로 흥분되는 일이다. 이전에는 상상할 수 없었던 규모로 과학, 기술, 예술, 비즈니스, 지식의 발전을 가속화할 가능성이 높다. 물론 이 과정에서 필연적으로 새로운 문제 등이 발생하거나 기존 문제를 악화시킬 수는 있다. 하지만 이전의 신기술 물결에서 그러했듯 균형을 잡아가면서 위험을 낮추고 이점을 얻어갈 수 있다고 믿는다.

미래에는 어떤 문제에 대해 가장 객관적이고 정확한 정보에 입각한 의견을 구할 때 인간이 아닌 컴퓨터에 물어보게 될 가능성이 높다. 우리가 우주의 중심에 있지 않다는 생각을 받아들였던 ‘코페르니쿠스 혁명’처럼 고도로 지능화된 기계와 세상을 공유하는 데 익숙해질 필요가 있다. 인류 역사의 이러한 변곡점을 볼 수 있었던 것에 진심으로 기쁘고, 한편으로는 고대하고 있다.

-다음 달에 생성형 AI에 대한 신간('생성형 AI- 모두가 알아야 할 것들')이 나온다. 어떤 메시지를 전하고자 했나.

▲독자들에게 생성형 AI와 앞으로 수십년간 발생할 수 있는 여파를 이해하는 데 필요한 프레임워크를 제공하는 것이 목적이다. 생성형 AI가 우리의 기대에 부응할지 여부는 우리에게 달렸다. 신기술의 강점과 약점에 대해 좀 더 미묘한 이해가 필요하다. 이것이 바로 내 책이 다루고자 하는 사항이다. 한국어 버전이 언제 발간될지는 정해지지 않았지만, 2024년 중에 이뤄질 수 있길 바라고 있다.

뉴욕=조슬기나 특파원 seul@asiae.co.kr