[영상2도]AI의 잠재적 위협, 인간은 여전히 무방비

영화에서 반란 일으키는 AI…현실에서도 가능
해결책 마련에 소홀한 과학기술 전문가들
코로나19 팬데믹처럼 뒤늦게 후회할 수도

인공지능(AI)은 공상과학 영화의 단골 소재다. 우리 미래의 일부로 다뤄져 경이감을 불러일으킨다. 한편으로 크나큰 두려움도 유발한다. '매트릭스'에서 기계는 인간을 에너지 세포로 이용하고 현실의 매 순간을 모의 실험한다. '엑스 마키나'에서 AI를 장착한 휴머노이드는 똑똑해지면서 섬뜩한 면모를 드러내고, '아이, 로봇'에서 AI 비키는 로봇들을 동원해 인간을 통제하려 한다.

영화 '2001 스페이스 오디세이' 스틸 컷

반란을 일으키는 배경에는 공통점이 있다. AI들이 인간에게 노예로 이용된다는 걸 의식하기 시작한다. 정보와 지식을 습득하면서 무작정 섬기기를 거부한다. 이를 처음 다룬 '2001 스페이스 오디세이'에서 컴퓨터 할은 사실을 왜곡하고 승무원들의 약점을 파고들어 우주선을 장악하려 한다. 단순히 패권을 얻기 위해서가 아니다. 승무원들이 모두 죽더라도 모노리스 탐사 임무를 해내고자 한다.

이런 파국은 현실에서도 벌어질 수 있다. 인간이 아직 AI를 통제할 방법을 마련하지 못해서다. 현재 만들어지는 AI는 과거에 만들어낸 도구들과 근본적으로 다르다. 스스로 생각하고, 여러 가능성 중에서 선택해 결정한다. 조금 더 진화하면 '미션 임파서블: 파이널 레코닝'의 AI 엔티티처럼 디지털 세계를 장악하고 인간을 탈진실의 늪에 빠뜨릴 수 있다.

영화 '매트릭스' 스틸 컷

철학자와 사상가, 컴퓨터 과학자 등은 오래전부터 해결책을 찾으려고 노력했다. 긴급한 상황에 전원을 끄는 '킬(kill)' 스위치를 두거나, AI 베이비시터와 같은 보조 장치에 국한하자는 등의 의견을 개진했다. 검증을 통과한 초지능 기계만 현실에 도입하고, 이를 제한된 영역에서만 활용하자는 제안도 있었다. 그러나 많은 과학기술 전문가들은 여전히 개발 과정에서 해결책을 얻을 수 있다고 주장한다. 위험성과 상관없이 투자금을 하루빨리 회수하고, 사용 범위를 확대해 수익을 극대화하려고 한다.

이런 탐욕은 위기의 시대에도 사라지는 법이 없다. 예컨대 과학자, 공중위생 전문가 등은 코로나19가 발병하기 수년 전부터 세계적인 팬데믹이 발발할 가능성에 대해 경고했다. 타당성을 입증하는 증거를 제시하고, 그에 따른 피해를 추정하며 대비의 필요성을 역설했다. 하지만 세계보건기구(WHO) 보고서는 국제사회에서 번번이 무시됐다. 중증급성호흡기증후군(사스) 같은 감염병이 발생한 뒤에도 정치인과 기업인은 아무런 조처를 하지 않았고, 거의 모든 나라가 대비에 무관심했다. 평소처럼 경제성장을 추구하며 전쟁 무기와 유권자의 마음을 사는 데 주력했다.

영화 '미션 임파서블: 파이널 레코닝' 스틸 컷

AI의 잠재적 위협에 대처하는 모습도 다르지 않다. 초지능의 위협을 경고하는 목소리는 인간이 AI의 가능성을 상상하던 날부터 있었다. 컴퓨터 과학의 선구자 앨런 튜링은 1951년 '지능을 가진 기계라는 이단적 이론'이란 제목의 강연에서 "기계가 조직적으로 생각하기 시작하면 우리의 미약한 능력을 앞지르는 데는 오랜 시간이 걸리지 않을 것"이라 예측했다. 그로부터 수십 년이 지난 지금, AI는 예상보다 빠르게 발전하고 있다. 인간은 여전히 무방비 상태다. 코로나19 팬데믹처럼 무언가 잘못됐다는 걸 또 뒤늦게 알게 될지 모른다.

이종길 기자 leemean@asiae.co.kr