[장은수의 책으로 읽는 세계]인공지능이 신탁을 내리는 사회는 불행해진다

실수 저지르기 쉬운 인간
AI에 기대어 인류 문제 처리 유혹
인간은 실패하고 정정하며 행복 느껴
AI신탁 전체주의 사회는 불행

2024년 노벨 물리학상은 존 홉필드와 제프리 힌턴에게 돌아갔다. 수상 이유는 두 학자가 물리학을 활용해 인공지능(AI)의 바탕이 되는 기계 학습의 발전에 이바지했다는 것이다. AI가 인류사에 어떤 분기점이 되리라는 예감이 그 판단 아래 깔려 있다. 바야흐로 AI 시대다.

AI가 우리 곁에 부쩍 다가오면서 독특한 현상도 나타났다. 특이점(singularity)에 관한 기대와 공포가 폭발한 것이다. 조만간 AI가 인간 지능을 넘어설 날이 오고, 그에 따라 인류 문명에 결정적 변화, 나아가 파국이 초래되리라는 담론이 퍼지는 중이다. 힌턴 교수만 해도 "AI가 사람보다 똑똑해져 우릴 좌지우지할 수 있다"면서 "AI 연구를 후회한다"고 말하지 않았는가.

특이점은 본래 수학이나 물리학에서 쓰이던 말로, 블랙홀 중심처럼 일반적 함수나 물리 법칙이 더 이상 적용되지 않는 어떤 지점을 가리킨다. 엄밀한 과학 개념인 특이점을 역사의 은유로 처음 사용한 사람은 폴란드 수학자 스타니스와프 울람이다. 1958년 그는 존 폰 노이만을 추도하면서 "기술 발전이 빨라지고, 인간 삶의 방식이 변화하면 언젠가 우리가 아는 인류 역사가 더 이상 지속될 수 없는 본질적 특이점에 가까워진다"고 말했다.

1983년 과학 소설가 데이비드 브린이 최초로 이 말과 AI를 연결해서 사용했다. "그날이 오면 인류 역사는 특이점에 도달할 것이고, 세상은 우리의 이해 단계를 훨씬 넘어설 것이다." 특이점이 대중에게 널리 퍼진 건 괴짜 미래학자 레이 커즈와일 덕분이다. 2005년 펴낸 베스트셀러 ‘특이점이 온다(김영사)’에서 그는 2045년에 AI가 인간 지능을 뛰어넘으리라고 선언했다.

지난 6월, 미국에서 나온 신간 ‘특이점이 더 가까워졌다’에서 커즈와일은 그날을 더 앞당겼다. 2029년 인간은 기계와 합쳐져 사이보그가 되기 시작하고, 뇌·컴퓨터 인터페이스를 통해 100만배 똑똑해지며, 2045년엔 AI와 하나 되어 영원히 불멸하리라 예언했다. "우리 지능이 우주 전체로 퍼져나가서 평범한 물질이 궁극의 계산 밀도로 조직된 물질인 컴퓨트로늄(computronium)으로 바뀌는 시기가 온다."

이야기는 우리를 중독시킨다. 더 나은 미래를 꿈꾸지 않고는 누구도 비루한 현재를 참아낼 수 없기 때문이다. 미래의 기대를 디딤돌 삼아서 과거를 고쳐 쓰고, 현재에 방향과 의미를 불어넣는 것이야말로 인간 지성의 특이성이다. 아리스토텔레스의 말처럼 처음과 중간과 끝이 그럴듯하게 연결된 서사는 우리에게 카타르시스를 불어넣는다. AI의 충격과 공포, 그 힘에 우여곡절을 겪을 인간에 대한 연민과 우려에도 우리가 특이점 서사에 끌리는 이유다.

그러나 ‘정정 가능성의 철학(메디치미디어)’에서 일본의 철학자 아즈마 히로키는 특이점 서사가 별 근거 없는 신비주의이자 위험한 전체주의를 가져온다고 비판한다. 커즈와일, 닉 보스트롬, 일론 머스크 등 특이점 신자들의 성경엔 이렇게 쓰여 있다. AI와 하나 된 인간은 결국 신체를 벗어던진 초지성이 되고, 태양계를 넘어 빛의 속도로 온 우주로 퍼져가, 마침내 우주 전체를 각성시킨다. 지적 견실함이 전혀 없는 종교적 묵시록에 가깝다.

심지어 커즈와일은 말한다. "진화는 신과 같은 극치에 도달할 순 없다고 해도 신의 개념을 향해 뚜렷하게 나아간다. 그러므로 인간 사고를 생물적 제약에서 해방하는 것은 본질적으로 영적 사업이라고도 할 수 있다." 스스로 자기 말이 과학적·합리적이기보다 신학적·종교적이라는 걸 밝힌 셈이다. 보스트롬은 AI가 의식을 획득할 때 생길 종말 서사에 관심을 둔다. 그날이 오면 AI는 압도적 지성으로 자기 보존에 매진함으로써 지구 자원을 독점해 인류를 절멸시킨다는 것이다. AI에 대해서 우리가 느끼는 두려움도 대부분 이 서사에 영향을 받았다.

그러나 자세히 들여다보면 거의 근거가 없다. ‘기술이 빠르게 발전하다 보면, 언젠가는…’이 반복될 뿐이다. 물론, AI는 좋아질 수 있다. 그러나 현재 기술이 특이점과 이어져 있는지는 아무도 모르는 듯하다. 반대로 기계 학습의 한계가 갑자기 나타나 오랫동안 정체 상태에 머무를 수도 있다. 과학의 역사는 돌연한 정체를 숱하게 보여준다. 특이점 서사는 자원을 무한정 투여하다 보면 획기적 돌파구가 나타나리라는 예언 말고 아무런 보증이 없다. 어쩌면 우리가 현재 ‘튤립 버블’ 상태일 수도 있다.

그러나 합리적 근거와 상관없이 특이점 사고는 빠르게 온 사회로 퍼져가고 있다. 그 한 극단이 데이터 지상주의에 바탕을 둔 ‘AI 신탁론’이다. AI 신탁론은 편향에 기울어지고 실수를 저지르기 쉬운 인간 대신 항상 최적 판단을 하는 AI에 기대어 인류 문제를 처리하자는 서사다. 곤란한 일이 있을 때마다 AI에 답을 묻는 최근의 세태는 마치 델포이 신전에 신의 뜻을 물었던 옛 그리스인을 떠올리게 한다. 법적 판단을 대신하는 AI 판사, 진단을 대신하는 AI 의사, 불필요한 정쟁을 거듭하는 국회나 오불관언을 반복하는 대통령을 대신하는 AI 정치가는 그 진화형일 테다.

아즈마에 따르면 AI 최적화는 통계적 정규 분포로 수렴한다. 이는 개인 행복 같은 소소한 목표를 무시하는 전체주의 형태로만 실현된다. 문제는 인간은 본래 삐딱해 이런 사회에선 무작정 반항을 택한다는 점이다. 일찍이 도스토옙스키는 말했다. "인간은 이성과 이익의 명령이 아니라 자기가 하고 싶은 대로 행동하길 좋아한다. 심지어 자기 이익에 반해서라도 그럴 수 있고, 이따금 꼭 그래야만 한다."

우리는 모두 독특하고 특이하며 기이한 존재다. 내비게이션을 쫓다가도 괜히 옆 골목으로 들어가야 직성이 풀린다. 항상 평균값을 따르기보다 때로 이를 비틀고 뒤트는 심술쟁이여야 만족한다. 괜히 실수하고 실패하며, 이를 정정하면서 살아갈 때 행복하다. AI가 신탁을 내리는 전체주의 사회는 우리를 불행하게 만든다. 도스토옙스키는 경고했다. "반드시 논리에 앞서 삶을 살아야 하고, 그때야 비로소 삶의 의미도 이해할 거야." 특이점 서사든, AI 신탁론이든 간에 AI를 둘러싼 온갖 서사를 검토해서 그 현재와 미래, 가능성과 한계를 냉철하게 성찰할 때가 되었다.

장은수 출판문학평론가