[과학을 읽다]인류 위협과 삶 개선, 노벨상 휩쓴 AI 진짜모습은?

노벨 물리학 힐턴·화학상 허사비스‥AI분야 슈퍼스타
딥러닝과 알파고로 AI와 발전과 혁명 알려
한때 동료에서 전혀 다른 입장으로 갈라져
"인간보다 똑똑한 AI 통제 못할 것"
"AI가 과학 발견 가속"

2024년 노벨상은 과학의 근원을 뒤흔들었다. 사람과 머리와 손이 아닌 인공지능(AI)의 발전과 AI를 통한 발견에 수상의 영광을 안겼다.

AI 분야의 유명 인사인 제프리 힌턴 토론토대 교수는 노벨 물리학상을, 데미스 허사비스 구글딥마인드 최고경영자(CEO)는 노벨 화학상을 수상하며 AI 기술의 과학적 중요성을 세계에 알렸다.

두 천재의 여정은 서로 다르지만, AI의 현재와 미래를 형성하는 데 결정적인 역할을 한 것은 분명하다. 두 사람이 어떻게 AI 시대를 열었는지, 그리고 AI가 인류의 일상에 어떤 변화를 가져올지 살펴본다.

AI 분야에서 힌턴과 허사비스는 각각 ‘딥러닝의 선구자’와 ‘응용 AI의 혁신가’로 평가할 수 있다. 힌턴이 딥러닝(Deep Learning)이라는 개념을 선보이며 빙하기를 깨고 AI 발전에 결정적 역할을 했다면, 허사비스는 ‘알파고’를 통해 AI가 인간과의 바둑 대결에서 승리하는 충격적인 장면을 선사해 AI 시대의 본격적인 개막을 알렸다. 두 사람의 업적은 AI가 단순한 기술 혁신을 넘어 기초 과학의 영역에서도 중요한 역할을 할 수 있음을 보여줬다. AI 연구가 인류의 지식 확장에 기여할 수 있다는 것을 공식적으로 인정받은 역사적 순간으로 기록됐다.

힌턴의 연구는 인공 신경망의 학습 방법을 혁신적으로 개선했으며, 허사비스는 이론을 실제 문제 해결에 적용하는 데 주력했다. 컴퓨터 사이언스 분야의 노벨상으로 불리는 튜링상은 힌턴을 포함한 AI 사대천왕으로 불리는 얀 르쿤, 앤드루 응, 요슈아 벤지오가 함께 수상했지만, 노벨상은 연구의 출발점인 힌턴만을 주목했다. 허사비스는 특유의 천재성을 발휘해 힌턴의 제자들인 AI 4대천왕을 제치고 노벨상을 차지했다.

◇AI 신경망, GPU 활용 이 사람의 연구였다= 힌턴은 1947년 영국 윔블던에서 태어나 옥스퍼드대에서 심리학을 전공했다. 그는 심리학을 넘어 인간의 뇌가 어떻게 정보를 처리하고 저장하는지에 주목하고 인공 신경망 연구에 몰두했다. 1978년, 힌턴은 대서양을 건너 캘리포니아대 샌디에이고 캠퍼스에서 인지과학 분야에서 박사 학위를 취득하고 인공 신경망 이론의 기초를 닦았다. 카네기멜런대에서는 '볼츠만 머신(Boltzmann machines)'이라는 새로운 형태의 신경망을 개발했다. 이 연구는 딥러닝의 중요한 기초가 됐다. 볼츠만 머신은 존 홉필드 교수가 고안한 ‘홉필드 네트워크’를 발전시킨 개념이다. 홉필드 교수가 힌턴과 함께 노벨 물리학상을 받은 이유다.

하지만 당시는 신경망 연구가 지금과 같은 결과를 낳을 것이라는 기대가 없었다. 연구 자금을 확보하기도 어려웠다. 결국 힌턴은 미국 카네기멜런대를 떠나 연구 지원을 약속한 캐나다 토론토대로 적을 옮긴다. 토론토대가 전 세계 AI의 중심지로 떠오른 결정적인 계기다.

그리고 딥러닝에 대한 결정적인 논문이 나온다. 2006년 ‘딥 빌리프 네트워크(Deep Belief Networks)’다. 여러 층의 제한된 볼츠만 머신을 쌓아 만든 모델로, 딥러닝 시대의 시작을 알리는 중요한 연구였다. 이 연구를 통해 힌턴은 많은 층을 가진 신경망을 효과적으로 학습시킬 수 있다는 것을 보여줬고, AI 연구의 새로운 장을 열었다.

백상엽 전 LG CNS 대표는 "힌턴 교수의 딥러닝 논문을 보는 순간 인공지능의 새로운 시대가 열렸음을 알 수 있었다"고 말했다.

힌턴 교수는 그래픽처리장치(GPU)를 통한 AI 학습의 시초이기도 하다. 그가 GPU를 통한 AI 학습이 중앙처리장치(CPU)를 통한 것보다 월등히 빠르다는 것을 확인하고 동료 연구자들에게 GPU 활용을 권유하면서 AI 연구의 속도가 빨라졌다.

2012년 힌턴 교수의 연구팀이 엔비디아의 GPU를 활용해 만든 영상 인식시스템 알렉스넷(Alexnet)의 등장은 AI 발전에 결정적인 이정표가 됐다.

힌턴은 천재형은 아니다. 그는 "노벨 물리학상 수상 소식을 듣고 깜짝 놀랐다. 난 대학 1학년 때 복잡한 수학을 못 해 물리학을 그만뒀다"고 말했다.

◇체스 신동, AI 과학의 길을 열다= 힌턴에 비하면 허사비스는 신동이다. 1976년 런던에서 그리스계 아버지와 중국·싱가포르계 어머니 사이에서 태어난 허사비스는 체스 신동으로 이름을 날렸다. 8세에 체스를 배워 3년 만에 영국 주니어 체스 챔피언십 우승을 차지했다. 11세에는 성인 대회에서도 우승했다. 체스에서 드러난 천재성은 학문으로 이어졌다. 그는 16세에 케임브리지대에 조기 입학해 컴퓨터 과학을 전공했다. 대학에서 허사비스는 AI에 주목했다. 체스에 기반한 그의 지식은 컴퓨터 과학 이론과 결합해 AI 응용에 대한 관심으로 확대해갔다.

허사비스의 천재성은 게임 분야에서 주춧돌을 놓았다. 그는 1998년 불프로그 프로덕션이라는 게임 개발사에 입사해 21세의 나이에 ‘테마 파크 월드’라는 게임 개발을 주도했고, 2001년에는 자신의 게임 개발사인 엘릭서 스튜디오를 설립했다.

게임은 허사비스의 꿈을 담기에는 이미 한정된 공간이었다. 허사비스는 유니버시티 칼리지 런던(UCL)에서 인지신경과학 박사 과정에 등록하고 AI 연구를 시작했다.

허사비스는 2010년 ‘딥마인드’를 공동 창립했다. ‘인공일반지능(AGI)을 개발하고 이를 활용해 세상의 가장 복잡한 문제들을 해결한다’는 목표를 세웠다. 4년 뒤인 2014년, 구글이 딥마인드를 인수했다. 무려 5억파운드(약 8억달러)의 자금을 투입했다. 당시로는 엄청난 금액이었지만 이는 구글이 노벨상을 타는 첫 빅테크(대형 정보기술기업)가 되는 계기를 만들었다. 딥마인드는 ‘구글딥마인드’가 됐고 허사비스는 AI연구를 지휘했다.

구글딥마인드가 세계를 놀라게 하는 데는 오랜 시간이 걸리지 않았다. 2016년 알파고의 등장이다. 알파고는 서울에서 세계 최고의 바둑 기사 중 한 명인 이세돌 9단과의 대국에서 4-1로 승리했다. 이 9단은 대국 전 예상과 달리 연패 후 겨우 한 번 이겼다. 한국은 물론 전 세계가 AI의 능력에 경악했다.

이때 허사비스는 또 다른 꿈을 꿨다. 과학연구다. 석차옥 서울대 교수는 "허사비스가 서울에서 알파고와 이세돌 9단의 대결에서 승리한 후 앞으로는 과학 분야 연구에 집중하겠다고 말했었다"고 전했다.

허사비스는 실천에 나섰다. 알파고의 형제 격인 알파폴드, 알파제로 등 과학 분야에 대한 AI를 연이어 내놓았다. 특히 알파폴드는 생명의 근원인 단백질을 연구하는 AI로 주목받았다.

석 교수는 "노벨상을 가장 많이 받은 분야가 생체 분자 분석이다. 이번에는 컴퓨터 계산을 통해 실험 수준에 맞먹는 결과를 내놓아서 놀랍다"고 말했다.

허사비스와 딥마인드가 만든 길은 이제 대로(大路)가 될 것이 분명하다. 수많은 후속 연구가 이어져 자연의 원리와 생명의 근원, 질병의 이유와 치유 방법이 등장할 가능성이 커졌다.

◇협업 그리고 헤어짐, 갈등= 힌턴과 허사비스는 구글에서 동료였다. 허사비스는 자신보다 하루 먼저 노벨상을 수상한 힌턴을 축하하며 전 구글 동료라고 표현했다.

구글은 딥마인드 인수 1년 전인 2013년 힌턴이 토론토대 대학원생 일리야 수츠케버, 알렉스 크리셰프스키(두 사람은 알렉스 넷의 연구자다)와 함께 세운 디엔엔(DNN)리서치를 인수했다. 허사비스와 힌턴은 구글이라는 큰 우산 아래에서 함께 일하게 됐다. 두 사람은 서로 다른 접근 방식을 가지고 있었다. AI 발전이라는 공통의 목표를 향해 협력했지만, 이제는 전혀 다른 방향을 향하고 있다.

오픈AI가 챗GPT를 선보이며 생성형AI의 열기가 치솟던 2023년 힌턴은 구글을 떠나며 AI 위험을 경고하는 전도사로 돌변했다. 그는 AI가 인류에게 위협이 될 수 있다며 "50년 가까이 해온 일을 후회한다"고 했다. 자신이 기초를 닦은 기술이 인류를 위협할 것을 우려한 것이다.

힌턴은 노벨위원회가 주선한 인터뷰는 물론, 토론토대가 주선한 노벨상 수상 기념 인터뷰에서 연이어 AI의 위험성을 설파하는 데 주력했다. 노벨상 수상을 AI의 위협을 알릴 기회로 삼은 모습이다.

그는 "의료와 같은 분야에서 AI의 혜택을 볼 수 있겠지만 나쁜 결과를 초래할 수도 있다"고 우려했다. 힌턴은 "5년에서 20년 사이에 AI가 인간의 지능을 뛰어넘을 것이며 우리가 그것을 통제할 수 있을지는 아무도 모른다"고 말했다.

힌턴은 무서운 속도로 오픈AI를 영리화해가고 있는 샘 올트먼 오픈AI 최고경영자(CEO)에 대한 저격도 서슴지 않았다. 그는 노벨상 수상 기자회견 중 "내 학생 중 한명이 샘 올트먼을 해고했다는 사실이 특히 자랑스럽다"고 했다. 힐턴이 말한 학생은 올트먼 축출을 주도했던 일리야 수츠케버다.

힌턴은 또 다른 제자인 앤드루 응과는 캘리포니아주가 추진하는 AI 규제 법안에 대해서도 맞서고 있다. 응은 규제 반대론자인 반면, 힌턴은 적극 찬성하고 있다. 두 사람의 설전은 X(옛 트위터)에서 달아오르고 있다.

허사비스는 여전히 AI의 발전에 기여한다는 입장이다. 허사비스는 노벨 화학상 수상 발표 이후 낸 성명에서 "나는 수십억 명의 삶을 개선할 수 있는 AI의 잠재력을 보고 내 경력을 AI 발전에 바쳐왔다"며 "알파폴드가 과학적 발견을 가속할 수 있는 AI의 놀라운 잠재력을 입증한 첫 번째 사례로 기억되길 바란다"고 말했다.

백종민 기자 cinqange@asiae.co.kr