[이 책 어때]AI가 만들 이야기가 인간을 위협한다

세계적 석학 하라리 교수 6년만에 새책
인류의 힘은 커졌지만 지혜는 그대로
기술, 인류를 노예로 만들수있어 우려

100일 동안 쑥과 마늘만 먹고 버틴 덕분에 아름다운 여인이 된 곰 웅녀가 하늘에서 내려온 신 환웅과 결혼해 아들을 낳는다. 그 아들은 한국인의 시조, 곧 단군이다. 한국인이라면 누구나 알고 있는 단군신화다. 그런가 하면 이탈리아 사람들은 자신들의 시조가 늑대의 젖을 먹고 자랐다는 건국신화를 공유한다. 특정 집단의 결속을 이끌어내는 이야기의 힘을 보여주는 사례다. 과학과 기술이 발전하지 않은 고대에는 이런 이야기가 집단을 결속시키고 집단의 힘을 발휘하는 원동력이 됐다.

세계적인 석학 유발 하라리 히브리대학 역사학과 교수는 6년 만에 내놓은 새 책 ‘넥서스’에서 호모 사피엔스가 세상을 지배할 수 있게 된 이유는 이야기 때문이라고 강조한다. 신화라는 이름의 이야기가 집단을 결속시켜 힘을 이끌어냈기 때문에 호모 사피엔스가 지구의 지배종이 될 수 있었다는 것이다. 호모 사피엔스는 대규모로 유연하게 협력할 수 있는 유일한 동물이라고 하라리 교수는 설명한다.

호모 사피엔스는 ‘지혜로운 사람’이라는 뜻이다. 은연 중 호모 사피엔스가 지구의 지배종이 될 수 있었던 이유는 지혜 때문이라는 뜻을 내포하고 있다고 볼 수 있다. 하지만 하라리 교수는 이러한 견해에 단호히 반대한다. 인류가 지배종이 될 수 있었던 이유는 지혜가 아니라 정보 네트워크를 통해 형성된 집단의 힘 때문이라고 강조한다. 호모 사피엔스는 그 이름과 달리 역사 발전을 통해 지혜를 증가시키지 않았으며 이로 인한 비극을 거듭했다고 지적한다.

호모 사피엔스가 대규모로 협력할 슈 있는 토대를 만들어준 이야기는 인간이 개발한 최초의 중요한 정보 기술이었다. 하라리 교수는 ‘넥서스’에서 정보 기술의 발전 과정을 살펴본다. 이야기에서 시작된 정보 기술은 문자, 인쇄술, 신문, 라디오 등을 거쳐 오늘날 인공지능(AI) 기술에까지 연결된다. 하라리 교수는 정보의 근본적인 특성이 연결이라고 한다. 단군신화처럼 공유된 이야기, 즉 정보가 집단의 결속을 이끌고 호모 사피엔스가 지구의 지배종이 되는 근본적인 배경이 됐다. 인류의 역사 발전은 곧 정보 네트워크를 구성해 힘을 키워온 과정을 의미한다.

석기 시대부터 오늘날 실리콘 시대까지 정보의 역사를 살펴보면, 연결은 지속적으로 증가했다. 그에 따라 인류의 힘은 커졌지만 지혜는 증가하지 않았다는 것이 하라리 교수의 주장이다. 또한 진실도 증가하지 않았다. 허위 정보가 때로 집단의 광기를 유도해 인류에 비극을 안겼다. 2차 세계대전을 일으킨 나치즘과 스탈린주의가 대표적인 사례다.

AI 시대가 되면서 연결의 가능성은 극도로 확장됐지만 진실이나 지혜의 증가로 이어질지는 미지수다. 오히려 AI는 기존의 정보 기술과 달리 창조할 수 있는 역량을 가졌다는 점에서 인류에 위협이 될 수 있다. 하라리 교수는 AI와 같은 새로운 기술들이 인류의 통제를 벗어나 아예 인류를 노예로 만들거나 전멸시킬 수 있다고 지적한다. AI는 기존의 정보 기술과 달리 이야기를 만들어낼 수 있기 때문이다.

호모 사피엔스는 오랜 시간 거듭된 발견과 발명을 통해 엄청난 힘을 갖게 됐지만 그 힘을 과시한 나머지 이제는 스스로를 실존의 위기에 직면시킨 어리석음을 범하고 있다고 하라리 교수는 주장한다. 그리스 신화 속 통제할 수 없는 태양 마차를 끌고자 했던 태양신 아폴론의 아들 파에톤과 같은 꼴이라고 꼬집는다. 파에톤은 마차를 제대로 다루지 못해 세상을 불바다로 만들었다. 결국 제우스가 벼락을 떨궈 파에톤을 죽여 세상을 구했다.

하라리 교수는 AI를 역사상 가장 강력한 정보 기술로 정의한다. AI는 스스로 결정을 내리고 스스로 새로운 아이디어를 구상할 수 있는 역사상 최초의 기술이다. 인류 역사상 최악의 인명 피해를 낸 원자폭탄 ‘리틀보이’는 스스로 어디를 파괴할지 결정할 수 없었지만 AI는 인간을 대신해 결정할 수 있다. 즉 인류가 이용할 수 있는 도구의 수준을 넘어 호모 사피엔스가 구성한 정보 네트워크의 행위자로 기능할 수 있다.

하라리 교수는 집단이 결국에는 AI와 같은 첨단 기술이 야기하는 문제를 해결할 것이라는 견해에 대해서도 순진한 정보관이라며 비판한다. 오히려 AI와 같은 최신 기술 때문에 개인보다는 집단이 허구와 환상에 빠질 위험이 크다고 지적한다. 개인이 집단보다 더 위험해질 수 있음은 나치즘 등이 이미 증명했다고 지적했으며 오히려 정보 네트워크 속에서 집단보다는 개인이 진실을 추구하는 경향이 있다고 강조한다. 하라리 교수는 강력한 자정 장치가 없을 경우 AI는 왜곡된 세계관을 조장하고, 심각한 권력 남용을 가능하게 하며, 무시무시한 마녀사냥을 선동할 수 있다며 글을 마무리한다.

넥서스 | 유발 하라리 지음 | 김명주 옮김 | 김영사 | 684쪽 | 2만7800원