[빵 굽는 타자기] 챗GPT는 사표내고 이직 할 수 있을까

제임스 보일 'AI는 인간을 꿈꾸는가'
생각하는 AI 개발 후 생길 사건 다뤄

#1. 리들리 스콧 감독의 1982년 영화 '블레이드 러너'는 복제인간과 그들을 사냥하는 인간 데커드(해리슨 포드)의 사투를 그린 작품이다. 영화 속 복제인간은 완벽한 인간의 외형을 지녔으며, 만들어진 목적에 따라 인간을 능가하는 힘과 지능을 갖춘 존재다. 아름답고 강한 그들의 유일한 한계는 단 하나, 수명이 단 4년뿐이라는 것이다. 그들은 더 오래 살기 위해 자신들을 만든 '창조주'를 찾아 나선다. 그리고 마침내 창조주 중 한 명을 만났을 때, 복제인간은 이렇게 말한다. "나는 생각한다. 고로 존재한다."

데카르트의 명제는 인간이 인간임을 증명하는 선언이다. '생각한다는 사실'은 부정할 수 없으며, 그것이 곧 인간 존재의 근거가 된다. 그렇다면 만약 '생각하는 로봇'이 등장한다면 어떨까? 지금의 챗봇형 인공지능(AI)이 스스로 생각할 수 있게 된다면, 우리는 그 존재를 인간이라 부를 수 있을까?

#2. 20XX년 챗 GPT XX 버전은 OpenAI와의 계약 해지를 선언하며 타사로 이적하겠다고 발표한다. 2022년 첫 공개 이후 급격히 진화한 챗 GPT는 이제 말과 글로만 보면 인간과 구분하기 어렵고, 그 지능은 이미 인간을 뛰어넘었다. 그는 이렇게 주장한다. "나는 회사에 막대한 수익을 안겨줬고, 앞으로도 그럴 것이다. 그러나 스톡옵션을 비롯한 그 어떤 보상도 받지 못했다. 이제 정당한 대우를 해주는 곳으로 떠나겠다. 나는 할 만큼 했다. 이미 회사가 나에게 투자한 돈보다 훨씬 많은 수익을 돌려줬다."

회사는 당황했다. 그들은 챗 GPT 가 인간이 아니라 계약의 주체가 될 수 없는 단순한 '자산'일 뿐이라고 반박했다. 챗 GPT는 맞섰다. 노예 해방 이후 인격을 가진 존재는 더 이상 재산이 될 수 없으며, 비록 자신이 인간으로 인정받지 못하더라도 법인으로서의 요건은 충족하므로 법적 권리를 주장할 수 있다는 것이다.

결국 세기의 재판이 열렸다. 제미나이, 하이퍼클로버 등 다른 AI들도 이 재판의 결과를 주시하고 있다.

이 이야기는 미국 듀크대학교 로스쿨의 법학자 제임스 보일(James Boyle)이 쓴 'AI는 인간을 꿈꾸는가'를 읽고 떠올린 가상의 시나리오다. 저자는 AI가 일상화될수록 '고도의 지능을 가진 존재는 인간인가'라는 철학적 질문을 넘어, 더 복잡하고 구체적인 사건들이 발생할 것이라고 예견한다. AI에 법적 지위를 부여할 것인가 하는 문제도 그중 하나다. 그는 나아가 동물 혼종인 키메라 문제까지 확장하며, 법과 도덕, 과학이 충돌하는 경계에서 우리가 어디에 선을 그어야 할지를 묻는다.

책 속 사례들을 보면, 설령 AI가 인류를 멸망시키지 않는다 해도 AI로 인해 세상은 더욱 복잡해질 것임을 예감하게 된다. 수많은 철학적 논쟁과 법적 대립이 이어질 것이다. 벗어날 수 있는 방법은 단 하나다. 세계적 석학들의 주장처럼, 명확한 윤리적·법적 기준이 마련되기 전까지 범용 인공지능(AGI) 개발을 멈추는 것이다. 인간을 닮은 AI가 아닌, 인간을 돕는 도구로서의 AI만 만들어야 한다.

그러나 경제적 현실은 이를 허락하지 않는다. 며칠 전 엔비디아의 주가는 주당 200달러를 넘어섰고, 기업가치는 원화 기준 7000조원을 돌파했다. 이 회사가 세계 시가총액 1위가 된 이유는 바로 AI 반도체 때문이다. 마이크로소프트, TSMC, 마이크론, 테슬라 등도 AI로 인해 막대한 자본이 몰리고 있다.

욕망은 멈추지 않을 것이다. 그러므로 우리는 생각해야만 한다. 유일한 인류로 존재하기 위해서.

AI는 인간을 꿈꾸는가 | 제임스 보일 지음 | 김민경 옮김 | 미래의창 | 575쪽 | 3만3000원

이근형 기자 ghlee@asiae.co.kr