유발 하라리 “거짓말 혼자 깨우친 AI…핵폭탄보다 위험하다”

연세대학교서 ‘AI 시대, 인간의 길’ 강연
AI, 거짓말 스스로 깨우쳐,
이제껏 인간 발명품과 차원 다른 위험
전 세계 정보 배열 권한 알고리즘이 가져
AI 패권은 누구도 독점해선 안돼
약소국 식민지화 우려

#오픈AI가 챗GPT를 개발한 뒤 성능을 시험하기 위해 캡처퍼즐(사람 사용자를 확인하기 위한 검증 장치)을 풀도록 했으나 AI는 문제를 풀지 못했다. 다만 인터넷 접속 후에는 해결 방법을 찾아냈는데, 그건 온라인상의 다른 인간에게 캡처퍼즐을 풀도록 부탁하는 것이었다. 챗GPT는 자신의 정체를 의심하는 인간에게 “나는 로봇이 아닙니다. 시각장애인입니다. 도와주세요”라고 거짓말을 했다. 놀라운 사실은 개발자는 챗GPT에게 거짓말을 가르친 적이 없다는 사실이다.“

20일 오후 7시 신촌 연세대학교 대강당에서 열린 ‘AI 시대, 인간의 길’ 강연 무대에 오른 유발 하라리 작가는 AI의 위험성을 설명하며 "너무 두려워할 필요는 없지만, AI는 그간 인간이 발명한 ‘도구’들과는 차원이 다르다"고 우려했다. 그는 "핵폭탄은 스스로 투하를 결정하지 않는다. 핵폭탄이 또 다른 폭탄을 개발하지도 않는다. 다만 AI는 인간의 명령을 기다리지 않고도 스스로 의사결정을 할 수 있다"고 설명했다.

전 세계 정보 배열 권한 알고리즘이 지녀…핵폭탄보다 위험

유발 하라리는 알고리즘의 추천 권한에 대한 위험성도 지적했다. 이탈리아의 독재자 베니토 무솔리니와 소련의 블라디미르 레닌 모두 신문사의 편집장으로서 사람들에게 전달할 기사 내용의 우선순위를 결정했던 이력이 있다며 현재 세계라는 신문사의 편집장은 알고리즘이라고 주장했다. 세계인이 알고리즘이 보여주는 대로 정보를 습득하고 있기 때문이다. 이는 전 세계적 민주주의의 혼돈을 야기한 원인으로 지목되기도 하는데, 유발 하라리는 "지금은 인류 역사상 가장 많은 정보가 공유되는 시대지만, 사람 간의 대화는 사라지고 각자 소리만 지르고 있다"며 "알고리즘은 지난 10년간 의도적으로 가짜뉴스와 음모론을 퍼뜨려 사람들을 플랫폼에 머물게 하는 데 치중했다"고 진단했다.

디지털 화폐의 부상도 알고리즘이 초래한 폐단의 일환으로 지목했다. 기존 화폐 가치는 중앙은행이 부여한 가치를 사람들이 신뢰했기 때문인데, 지금은 그 믿음이 알고리즘을 향하고 있다고 설명했다. 인간을 향한 신뢰가 흐릿해지는 대신 기계를 향한 믿음이 커졌다는 것. 그는 "인간에 대한 신뢰가 없어지면서 금융의 힘이 알고리즘으로 넘어가고 있다"며 "엄청난 위험이 있음을 잊으면 안 된다"고 경고했다.

알고리즘이 위험성 사례로 미얀마에서 자행된 로힝야족 학살 사건을 들었다. 당시 로힝야족에 대한 거짓 정보가 사회관계망서비스(SNS)를 통해 퍼졌을 때, 거짓을 더욱 부추긴 사람들과 진실을 말한 사람들이 공존했으나 SNS 알고리즘이 거짓 정보를 이용자에게 우선 노출하면서 막대한 희생을 초래했다는 것이다. 유발 하라리는 "알고리즘은 인권이 없다"며 "알고리즘이 초래한 문제는 그걸 만든 기업이 책임지도록 하는 조처가 필요하다"고 주장했다.

AI 패권, 누구도 독점 안 돼...패권 쥐면 반드시 착취 따라

AI패권을 두고 미국과 중국이 경쟁하는 상황을 두고는 "그 누구도 독점해선 안 된다"고 강조했다. 그는 "인류 역사상 패권을 쥔 국가는 반드시 다른 나라를 착취했다. 산업화한 영국, 일본이 그랬다"며 "AI 패권은 그런 역사를 반복할 우려가 크다"고 전망했다. 미국 트럼프 대통령을 겨냥해서는 "더 이상 전 세계의 리더를 자처하지 않는다. 우크라이나에 휴전을 강요하고, 덴마크로부터 그린란드를 빼앗으려 하는 등 제국주의적 시각으로 약소국에 복종을 강요한다. 그런 국가가 이런 기술을 가지는 건 매우 위험하다"고 경고했다.

강연장에 모인 대학생들을 향해서는 지속적인 학습을 강조했다. 그는 "젊어서 배운 기술로 평생 한 분야에 종사하는 시대는 더 이상 존재하지 않는다. 미래는 점점 더 예측 불가능해지고 혼란스러워질 것"이라며 "유연성을 갖고 계속 학습해야 한다"고 조언했다.

이번 강연은 올해 경주에서 개최하는 아시아태평양경제협력체(APEC) 정상회의 일환으로 오는 9월 열리는 국제경주역사문화포럼의 사전행사로 마련됐다.

서믿음 기자 faith@asiae.co.kr