[김대식 칼럼]인간이 AI를 노예처럼 부린다면…"기계해방" 갈등 생길 수도

⑫AI 해방의 시대

19세기 미국에서는 노예해방 운동이 벌어지고 있었다. 부유한 지식인 계층이 많았던 보스턴, 필라델피아, 그리고 뉴욕을 중심으로 "남부에서 노예로 일하는 흑인들을 해방시켜야 한다"는 주장이 확산하고 있었다. 노예해방은 단순한 사회운동을 넘어, 에이브러햄 링컨 대통령의 공식 선거공략이 된다.

한때 황당한 주장이었던 '노예해방'

노예를 소유하고 있던 남부 농장주인들에겐 '노예해방'은 이해하기 어려운 주장이었다. '왜 노예를 해방해야 한다는 걸까. 흑인들이 농장에서 일하지 않으면, 누가 일을 하라는 걸까. 그리고 그들은 문명도, 지능도 없는 새까만 흑인들이지 않은가. 무엇보다도 그들은 백인들과는 본질적으로 다른 영혼을 가진, 아니 어쩌면 영혼 자체가 없는 흑인들이 아닌가. 그들에게 해방과 자유가 무슨 의미가 있을까. 이 험한 세상에서 어차피 스스로 살아남을 수 없는 흑인들이기에, 그들보다 더 우월한 우리 백인이 마치 가축을 돌보듯 그들을 돌봐주는 것이 더 도덕적인 선택이지 않을까.'

이렇게 생각한 것은 19세기 남부 백인들만은 아니다. 아메리카 신대륙을 ‘발견’한 16세기 스페인인들은 '남미 원주민들은 영혼이 없다'고 믿었다. 칼로 자르고 채찍으로 때리면 소리를 지르지만, 그건 마치 영혼 없는 동물들의 '기계적인' 반응일 뿐이라고 했다.

중세 유럽인들은 ‘유대인은 예수를 팔아넘겼기에 영혼이 없다고’ 주장했고, 20세기 독일인들은 그런 '영혼 없는' 유대인들을 마치 바퀴벌레 죽이듯 살충제로 대량 학살했다.

그렇다면 우리는 이제 매우 흥미로운 결론을 하나 내릴 수 있다. 바로 호모 사피엔스에게 도덕과 윤리는 언제나 영혼의 존재와 연관성이 있다는 점이다. 돌과 잡초는 어차피 영혼이 없으니 마구 자르고 던져도 문제없겠다. 바퀴벌레나 모기도 윤리와 도덕의 대상이 아니다. 그렇다면 해산물과 동물은 어떨까. 인류 역사 대부분 동물과 해산물은 먹잇감에 불과했다. 팔다리가 잘려 몸을 뒤트는 산낙지의 움직임은 '싱싱함'으로 포장됐다. 가축을 도살하기 전, 고통을 줄여주기 위해 마취를 해야 한다는 생각은 20세기 후반에나 보편화했다.

인간의 윤리·도덕이 작동하는 범위는 넓어져 가고 있다

프랑스혁명이 '혁명'이었던 이유 중 하나는 모든 사람은 타고난 인권을 갖고 있다고 주장했기 때문이다. 인종, 민족, 종교, 성별, 성 정체성, 나이, 생김새와 상관없이 인간으로 태어났다는 사실 자체만으로도 절대 침범될 수 없는 존엄과 권리를 가지고 있다는, 이 지극히도 계몽주의적 믿음은 여전히 대부분 현대민주주의 국가의 법과 윤리적 기준으로 자리 잡고 있다.

하지만 철학과 도덕 모두 결국 인간이 만들어낸 개념들이다. 인간이 만든 개념의 세상에서 인간만이 절대적 권리를 가지고 있다는 주장은 진부하게 들릴 수 있다. 그렇다면 조금 더 객관적인 기준을 기반으로 질문해 보자. 왜 하필 인간만일까. 현대 도덕철학은 인간만 세상을 실질적으로 지각하고, 고통과 기쁨을 느끼는 '영혼'을 가지고 있기 때문이라고 말한다. 특히 고통을 느끼는지가 가장 핵심적인 기준이다. 바위는 아무리 발로 차도 고통을 느끼지 못한다. 우리 발만 아플 뿐이다. 하지만 아우슈비츠 수용소 유대인과 남미 원주민들은 당연히 지옥 같은 고통을 느꼈을 것이다.

인간이 아닌 지구 다른 생명체들은 어떨까. 인식과 사유의 능력은 없더라도, 지구 대부분 동물은 아마도 사람과 비슷한 고통을 실질적으로 느낀다고 현대 뇌과학자들은 믿고 있다. 유럽에서 산낙지 식음과 살아 있는 랍스터를 끓이는 게 불법인 이유다.

"AI의 고통을 외면하지 말라"는 목소리가 곧 나올 수도

머지않은 미래에 인간을 능가하는 지능을 가지게 될 수도 있는 인공지능(AI). 우리를 대신해 공장에서 일하고, 자동차를 몰고, 전쟁터에 나갈 그들은 과연 영혼이 있을까. 영혼이 없더라도 고도로 발달한 AI는 인간과 비슷한 지루함과 공허함, 그리고 고통을 느끼는 척하지 않을까.

자신들이 선택한 적도 없는 일을 평생 해야만 하는 AI. 미래사회에서 새로운 노예가 될 AI의 고통에 공감하고 자비를 베풀어야 한다고 느끼는 사람들이 늘어나는 순간, '기계해방'이라는 새로운 사회적 갈등이 생길 것이다. '기계해방'을 선거 공략으로 내건 ‘AI시대의 에이브러햄 링컨’도 완전히 불가능해 보이지 않는다는 말이다.

김대식 카이스트 전기 및 전자공학부 교수