[이 책 어때]AI는 또다른 '프로메테우스의 불'인가

헨리 키신저 '새로운 질서'
정치·안보·과학 등 영역서
AI가 야기할 위기·가능성 진단

AI 무기화된 미래사회선
영토 기반한 국가질서 와해
AI기업에 경제·군사권력 집중 우려

노동 자동화로 생산효율 극대화
인간은 생계유지 노동 벗어나
자율·창의적 활동에 집중 가능

그리스·로마 신화에 따르면 거인 프로메테우스는 신에게서 불을 훔쳐 인류에게 선물했다. 인류는 이 불을 통해 번영을 이뤘지만, 동시에 불로 인해 문명이 파괴되는 비극도 겪어야 했다. 이런 점에서 인공지능(AI)은 양면성을 지닌 또 다른 '불'로 주목받고 있다.

챗GPT의 이미지 생성형AI 'Sora'를 활용해 만든 이미지. 인간의 문명을 발전시킬 수도, 파괴할 수도 있는 인공지능(AI)의 양면성을 표현했다.

이 책의 저자인 '20세기 외교의 역사'라 불리는 헨리 키신저 전 미국 국무장관, 에릭 슈미트 전 구글 최고경영자(CEO), 크레이그 먼디 전 마이크로소프트 수석연구책임자는 AI가 인류의 공존과 멸종 가능성을 동시에 내포하고 있다고 강조한다. 특히 키신저는 챗GPT가 등장하기 전인 2018년부터 이미 AI의 위험성을 경고하며, AI가 20세기의 핵무기와 같은 파괴적 잠재력을 지닐 수 있다고 내다봤다. 그는 "AI의 도래는 인간 생존의 문제다. 적절히 통제되지 않으면, AI에 의해 축적된 지식이 파괴적인 방식으로 악용될 수 있다"고 경고한 바 있다.

키신저는 2023년 11월29일 100세의 일기로 생을 마감하기 직전까지도 세계 질서를 재편할 AI의 위력을 연구했다. 그의 마지막 외교 임무 역시 중국을 방문해 AI로 인해 인류가 직면한 위기에 대해 시진핑 주석과 논의하는 것이었다. 이 책에는 정치, 안보, 번영, 과학 등 다양한 영역에서 AI가 야기할 위기와 가능성이 폭넓게 담겨 있다.

세 저자는 AI가 지금까지와는 전혀 다른 방식으로 인류의 삶을 변화시킬 수 있다고 주장한다. 일례로 AI는 17세기 주권 국가 질서의 기반이 된 '베스트팔렌 체제'를 와해시킬 수 있다는 것이다. 베스트팔렌 조약은 각 국가가 자국 영토에 대해 배타적 주권을 갖는 국제 정치 체제를 형성했지만, AI가 무기화된 사회에서는 오히려 AI를 소유하고 개발한 기업들이 사회적, 경제적, 군사적, 정치적 권력을 집중시킬 수 있다고 저자들은 경고한다.

이러한 상황이 현실화하면, 기존의 국가는 군사력과 외교력, 경제적 영향력을 기업에 위임하는 수준으로 축소될 수 있다는 우려도 제기된다. 세 저자는 "AI의 출현은 기존의 모든 제도에 의한 통치를 더욱 어렵게 만들 것"이라며 "기업의 동맹이 전통적인 민족국가처럼 기능할 수 있다. 영토의 경계를 정하고 확장하는 대신, 분산형 디지털 네트워크의 영역을 구축할 것"이라고 전망한다.

AI가 가져올 긍정적인 미래상도 책에서 함께 제시된다. 노동 분야에서는 자동화를 통해 생산 효율을 극대화하고, 인간의 노동을 의무가 아닌 선택으로 바꿀 가능성이 제기된다. 일자리가 AI에 의해 대체되더라도, 인간은 생계 유지를 위한 노동에서 벗어나 자율적이고 창의적인 활동에 집중할 수 있다는 것이다. 저자들은 "AI에 우리가 더는 하지 않아도 되는 일을 대신하게 지시할 수 있으며, 바로 그렇기 때문에 우리는 원하는 일을 할 수 있다"고 강조한다.

이러한 맥락에서 AI가 저소득 계층의 빈곤 문제 해결에도 기여할 수 있다는 기대가 나온다. 저자들은 획일화된 취업 중심 교육이 아니라, 모두에게 맞춤형 개인 교사가 붙는 것과 같은 AI 기반 교육 환경을 상상한다. 현재 학교가 취업 훈련과 기술 교육에 초점을 맞추는 반면, 미래에는 다양한 일을 수행할 수 있는 '교양 있는 개인'을 육성하는 방향으로 변화할 수 있다는 것이다. "전 세계 학교들은 완전히 다른 새 시대로 우리를 인도해 줄 철학자와 작가를 배출할 것이다. 인간은 AI에 의해 역량이 강화되고 영감을 받아 돈을 벌기 위해서가 아니라 즐거움과 자긍심을 얻기 위해 계속 일할 수 있다"고 역설한다.

반면 AI가 외계 지능과의 접촉을 매개로 인류의 멸망을 초래할 수도 있다는, SF 소설 같은 시나리오도 제시된다. AI의 도움으로 적대적인 외계 존재와의 접촉 가능성이 커지면서, 인류의 종말을 앞당길 수 있다는 주장이다. "AI는 우주로 송신하는 지구의 신호를 더 크고 오래 지속되게 만들어, 외계 존재가 인간 문명을 발견할 가능성을 높일 수 있다"고 저자들은 말한다. 다만 이 같은 가능성보다는 현재 지구상에서 우리가 마주한 문제에 대한 대응이 우선이라고 지적한다. "먼 시간과 공간 너머의 존재보다, 지금 여기 있는 존재의 성격과 의도를 먼저 이해하고 형성하는 데 관심을 가져야 한다"고 피력한다.

AI가 대체한 노동 환경에서 자율성과 창의성을 살리는 긍정적 전망과 함께, 소수 엘리트가 전통적 견제 장치 없이 절대 권력을 쥘 가능성, 오픈소스로 공유된 신기술이 불온 세력에 의해 악용될 위험, 인간의 자유의지를 AI가 '교정'하려는 시도 등 다양한 시나리오가 책에서 다뤄진다. 이는 상당히 흥미로운 접근이지만, 표현이 다소 매끄럽지 못한 부분이 있으며, 세 저자의 개별 주장이 명확히 구분되지 않는 점은 아쉽다. 또한 본문에 반복적으로 등장하는 '이 책의 저자들'과 같은 제삼자적 서술은 독자의 몰입감을 떨어뜨리는 요인으로 작용한다.

새로운 질서 | 헨리 키신저 외 2명 | 윌북 | 272쪽 | 1만9800원

서믿음 기자 faith@asiae.co.kr