본문 바로가기
bar_progress

글자크기 설정

닫기

유발 하라리 “거짓말 혼자 깨우친 AI…핵폭탄보다 위험하다”

시계아이콘01분 40초 소요
숏뉴스
숏 뉴스 AI 요약 기술은 핵심만 전달합니다. 전체 내용의 이해를 위해 기사 본문을 확인해주세요.

20일 오후 7시 신촌 연세대학교 대강당에서 열린 'AI 시대, 인간의 길' 강연 무대에 오른 유발 하라리 작가는 AI의 위험성을 설명하며 "너무 두려워할 필요는 없지만, AI는 그간 인간이 발명한 '도구'들과는 차원이 다르다"고 우려했다.

세계인이 알고리즘이 보여주는 대로 정보를 습득하고 있기 때문이다.

이는 전 세계적 민주주의의 혼돈을 야기한 원인으로 지목되기도 하는데, 유발 하라리는 "지금은 인류 역사상 가장 많은 정보가 공유되는 시대지만, 사람 간의 대화는 사라지고 각자 소리만 지르고 있다"며 "알고리즘은 지난 10년간 의도적으로 가짜뉴스와 음모론을 퍼뜨려 사람들을 플랫폼에 머물게 하는 데 치중했다"고 진단했다.

닫기
뉴스듣기 글자크기

연세대학교서 ‘AI 시대, 인간의 길’ 강연
AI, 거짓말 스스로 깨우쳐,
이제껏 인간 발명품과 차원 다른 위험
전 세계 정보 배열 권한 알고리즘이 가져
AI 패권은 누구도 독점해선 안돼
약소국 식민지화 우려

#오픈AI가 챗GPT를 개발한 뒤 성능을 시험하기 위해 캡처퍼즐(사람 사용자를 확인하기 위한 검증 장치)을 풀도록 했으나 AI는 문제를 풀지 못했다. 다만 인터넷 접속 후에는 해결 방법을 찾아냈는데, 그건 온라인상의 다른 인간에게 캡처퍼즐을 풀도록 부탁하는 것이었다. 챗GPT는 자신의 정체를 의심하는 인간에게 “나는 로봇이 아닙니다. 시각장애인입니다. 도와주세요”라고 거짓말을 했다. 놀라운 사실은 개발자는 챗GPT에게 거짓말을 가르친 적이 없다는 사실이다.“


20일 오후 7시 신촌 연세대학교 대강당에서 열린 ‘AI 시대, 인간의 길’ 강연 무대에 오른 유발 하라리 작가는 AI의 위험성을 설명하며 "너무 두려워할 필요는 없지만, AI는 그간 인간이 발명한 ‘도구’들과는 차원이 다르다"고 우려했다. 그는 "핵폭탄은 스스로 투하를 결정하지 않는다. 핵폭탄이 또 다른 폭탄을 개발하지도 않는다. 다만 AI는 인간의 명령을 기다리지 않고도 스스로 의사결정을 할 수 있다"고 설명했다.

유발 하라리 “거짓말 혼자 깨우친 AI…핵폭탄보다 위험하다”
AD

전 세계 정보 배열 권한 알고리즘이 지녀…핵폭탄보다 위험

유발 하라리는 알고리즘의 추천 권한에 대한 위험성도 지적했다. 이탈리아의 독재자 베니토 무솔리니와 소련의 블라디미르 레닌 모두 신문사의 편집장으로서 사람들에게 전달할 기사 내용의 우선순위를 결정했던 이력이 있다며 현재 세계라는 신문사의 편집장은 알고리즘이라고 주장했다. 세계인이 알고리즘이 보여주는 대로 정보를 습득하고 있기 때문이다. 이는 전 세계적 민주주의의 혼돈을 야기한 원인으로 지목되기도 하는데, 유발 하라리는 "지금은 인류 역사상 가장 많은 정보가 공유되는 시대지만, 사람 간의 대화는 사라지고 각자 소리만 지르고 있다"며 "알고리즘은 지난 10년간 의도적으로 가짜뉴스와 음모론을 퍼뜨려 사람들을 플랫폼에 머물게 하는 데 치중했다"고 진단했다.


디지털 화폐의 부상도 알고리즘이 초래한 폐단의 일환으로 지목했다. 기존 화폐 가치는 중앙은행이 부여한 가치를 사람들이 신뢰했기 때문인데, 지금은 그 믿음이 알고리즘을 향하고 있다고 설명했다. 인간을 향한 신뢰가 흐릿해지는 대신 기계를 향한 믿음이 커졌다는 것. 그는 "인간에 대한 신뢰가 없어지면서 금융의 힘이 알고리즘으로 넘어가고 있다"며 "엄청난 위험이 있음을 잊으면 안 된다"고 경고했다.


알고리즘이 위험성 사례로 미얀마에서 자행된 로힝야족 학살 사건을 들었다. 당시 로힝야족에 대한 거짓 정보가 사회관계망서비스(SNS)를 통해 퍼졌을 때, 거짓을 더욱 부추긴 사람들과 진실을 말한 사람들이 공존했으나 SNS 알고리즘이 거짓 정보를 이용자에게 우선 노출하면서 막대한 희생을 초래했다는 것이다. 유발 하라리는 "알고리즘은 인권이 없다"며 "알고리즘이 초래한 문제는 그걸 만든 기업이 책임지도록 하는 조처가 필요하다"고 주장했다.


AI 패권, 누구도 독점 안 돼...패권 쥐면 반드시 착취 따라

AI패권을 두고 미국과 중국이 경쟁하는 상황을 두고는 "그 누구도 독점해선 안 된다"고 강조했다. 그는 "인류 역사상 패권을 쥔 국가는 반드시 다른 나라를 착취했다. 산업화한 영국, 일본이 그랬다"며 "AI 패권은 그런 역사를 반복할 우려가 크다"고 전망했다. 미국 트럼프 대통령을 겨냥해서는 "더 이상 전 세계의 리더를 자처하지 않는다. 우크라이나에 휴전을 강요하고, 덴마크로부터 그린란드를 빼앗으려 하는 등 제국주의적 시각으로 약소국에 복종을 강요한다. 그런 국가가 이런 기술을 가지는 건 매우 위험하다"고 경고했다.


강연장에 모인 대학생들을 향해서는 지속적인 학습을 강조했다. 그는 "젊어서 배운 기술로 평생 한 분야에 종사하는 시대는 더 이상 존재하지 않는다. 미래는 점점 더 예측 불가능해지고 혼란스러워질 것"이라며 "유연성을 갖고 계속 학습해야 한다"고 조언했다.


AD

이번 강연은 올해 경주에서 개최하는 아시아태평양경제협력체(APEC) 정상회의 일환으로 오는 9월 열리는 국제경주역사문화포럼의 사전행사로 마련됐다.




서믿음 기자 faith@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>

AD
AD

당신이 궁금할 이슈 콘텐츠

AD

맞춤콘텐츠

AD

실시간 핫이슈

AD

놓칠 수 없는 이슈 픽

  • 25.05.2007:01
    최창렬 "한동훈 '따로 유세' 김문수에게 큰 도움 안될 것"
    최창렬 "한동훈 '따로 유세' 김문수에게 큰 도움 안될 것"

    5월19일 아시아경제 'AK라디오'에 출연한 최창렬 용인대 특임교수는 "대선 결과가 좋지 않으면 국민의힘은 책임론에 휩싸일 것"이라고 내다봤다. 그러면서 "한 전 대표는 자신의 정체성을 확실하게 갖고 가겠다는 모습을 보인다"고 평가했다. 영상을 클릭하면 자세한 내용을 볼 수 있다. 한동훈 전 대표가 20일 부산 광안리를 시작으로 현장 유세를 하겠다고 밝혔다. 김문수 후보와 같이 유세하지 않겠다고 분명히 선을 그었다.

  • 25.05.1808:30
    한국 부자들도 솔깃…70억짜리 영주권 골드카드, 美재정부채 모두 갚나
    한국 부자들도 솔깃…70억짜리 영주권 골드카드, 美재정부채 모두 갚나

    트럼프 행정부가 외국인 부유층을 대상으로 500만달러(약 71억원)를 내면 미국 영주권을 즉시 발급해주는 '골드카드' 제도의 시스템 테스트에 들어갔다. 16일 일론 머스크 정부효율부 수장은 "미국의 새로운 영주권 카드인 골드카드가 테스트에 들어갔다"고 밝혔다. 이 제도는 지난 2월 트럼프 대통령이 처음 발표한 후 테스트 단계에 돌입한 것이다. 트럼프 대통령은 "전 세계 잠재 고객이 3700만명에 달하며, 10만개만 팔려도 미

  • 25.05.1708:30
    트럼프 장남의 사교클럽 논란…입회비만 7억
    트럼프 장남의 사교클럽 논란…입회비만 7억

    도널드 트럼프 미국 대통령의 장남 트럼프 주니어가 전세계 정재계 인사들을 대상으로 회원비 50만달러(약 7억원)의 고액 사교클럽을 만들어 논란이 되고 있다. 특히 이 클럽의 이름이 '이그제큐티브 브랜치(Executive Branch·행정부)'로, 아버지의 대통령직을 이용해 사적 이득을 추구한다는 비판이 미국 내에서 쏟아지고 있다. 트럼프 주니어는 현재 중동, 유럽, 아시아 각국을 돌며 주요 정재계 인사들을 만나고 이들을 '행정부

  • 25.05.1706:00
    트럼프 때문에 재점화 된 '캘렉시트' 논란…캐나다에 역합병되나
    트럼프 때문에 재점화 된 '캘렉시트' 논란…캐나다에 역합병되나

    미국 서부 최대 경제 중심지인 캘리포니아에서 미국으로부터의 분리 독립 운동이 본격화되고 있다. 소위 '캘렉시트(Calexit)'로 불리는 이 움직임은 도널드 트럼프 대통령의 2기 집권과 관세 전쟁에 따른 경제적 피해가 직접적인 계기가 된 것으로 분석된다. 캘리포니아 내에서는 분리독립을 위한 주민투표 절차가 이미 시작됐다. 현재 주 내에서 서명 운동이 진행 중이며, 오는 7월 말까지 54만 명의 청원 서명을 모으면 분리 독립

  • 25.05.1515:48
    이정현 "이준석 호랑이굴로 돌아와라, 한동훈은 선대위 참여해야"
    이정현 "이준석 호랑이굴로 돌아와라, 한동훈은 선대위 참여해야"

    이정현 국민의힘 공동선대위원장이 5월 14일 오후 4시, 아시아경제 유튜브 'AK라디오'에 출연했다. 이 위원장은 "윤석열 전 대통령이 당을 위해서, 선거에 도움이 된다면 스스로 결단해줘야 한다"며 "한동훈 전 대표도 당장 선대위에 들어와야 한다"고 강조했다. 1시간 동안 진행된 인터뷰 내내 이 위원장은 특유의 열정적인 목소리로 자기 생각을 밝혔다. 인터뷰 핵심 내용을 요약했다. 대선 전체 판도를 어떻게 보나.투표가 임박

  • 25.05.1414:34
    4050 채용도 어려운 中企 "정년 따질 때가 아니죠"
    4050 채용도 어려운 中企 "정년 따질 때가 아니죠"

    시화공단 현장 르포 '쿵' 하는 소리를 내며 작동하는 육중한 프레스 기계. 쉴 새 없이 움직이는 이 대형 설비 앞에서 재빠른 몸놀림으로 작업 중인 신송남씨는 단 한시도 긴장을 늦출 수가 없다. 옆 사람의 말소리마저 집어삼킬 만큼 커다란 굉음을 내뿜으며 엘리베이터에 들어가는 부품을 찍어내는 이 설비 앞에서 방심은 곧 대형 사고로 이어지기 때문이다. 지난 12일 찾아간 경기도 시화공단 내 정일산업 공장에서 처음 마주한

  • 25.05.1410:34
    70세 이상 상용직 10년새 4배 증가
    70세 이상 상용직 10년새 4배 증가

    법정 정년 이후 고용문제는 단순히 60세 이상에만 그치지 않는다. 기대수명 연장으로 고령화 추세가 이어지면서 직업을 가진 70세 이상 고령 근로자도 뚜렷하게 증가하는 것으로 나타났다. 한때 생계형 임시·일용직 중심이던 고령자 일자리는 점차 상용직과 전문직으로 옮겨가고 있다. 단순한 노인 일자리 확대를 넘어 고령 인력을 안정적으로 활용하는 구조로 이행하는 흐름이 나타나고 있는 것이다. 이 때문에 정년을 연장하는

  • 25.05.1409:46
    66세 K방산 베테랑 "정년 연장에 할 수 있는 일도 늘었다"
    66세 K방산 베테랑 "정년 연장에 할 수 있는 일도 늘었다"

    지난 12일 경북 구미시 LIG넥스원 구미 하우스에서 만난 조강현 수석매니저는 흡사 군(軍) 지휘관의 눈빛을 하고 있었다. L3동 2층 TMMR 생산공장에서 근무하는 200여명의 직원 한 명 한 명을 그는 매의 눈으로 지켜봤다. 그리고 핵심만 짚은 조언이 이어졌다. 그는 "통신 장비개발에만 있다 보니 라인별 생산공정에서 잘못된 점이 한눈에 보인다"며 "완성도를 높이기 위한 방안을 매일 고민 중"이라고 했다. 군 지휘관처럼 생산 현

  • 25.05.1409:44
    60세 넘어도 월급 안 깎고 정규직…"4050 채용 어려우니 71세 큰형님도 소중"
    60세 넘어도 월급 안 깎고 정규직…"4050 채용 어려우니 71세 큰형님도 소중"

    '쿵' 하는 소리를 내며 작동하는 육중한 프레스 기계. 쉴 새 없이 움직이는 이 대형 설비 앞에서 재빠른 몸놀림으로 작업 중인 신송남씨는 단 한시도 긴장을 늦출 수가 없다. 옆 사람의 말소리마저 집어삼킬 만큼 커다란 굉음을 내뿜으며 엘리베이터에 들어가는 부품을 찍어내는 이 설비 앞에서 방심은 곧 대형 사고로 이어지기 때문이다. 지난 12일 찾아간 경기도 시화공단 내 정일산업 공장에서 처음 마주한 장면은 소음 탓에 귀

  • 25.05.1211:02
    "정부는 큰 틀만 설계‥시행은 자율에 맡겨야"
    "정부는 큰 틀만 설계‥시행은 자율에 맡겨야"

    기업들은 정년을 65세까지 연장하는 제도 자체보다 이를 누가, 어떻게 시행할지에 더 큰 관심을 보였다. 대부분의 기업은 정부가 제도의 큰 틀만 설계하고, 실제 시행 여부는 기업이 자율적으로 결정할 수 있어야 한다는 입장을 밝혔다. 획일적 적용보다는 각 조직의 여건을 고려한 유연한 도입 방식을 선호한다는 것이다. 실제 조사에서 응답 기업의 59.4%는 정년연장 제도를 정부가 설계하더라도 시행 여부는 기업 자율에 맡겨야

  • 25.05.2007:01
    최창렬 "한동훈 '따로 유세' 김문수에게 큰 도움 안될 것"
    최창렬 "한동훈 '따로 유세' 김문수에게 큰 도움 안될 것"

    5월19일 아시아경제 'AK라디오'에 출연한 최창렬 용인대 특임교수는 "대선 결과가 좋지 않으면 국민의힘은 책임론에 휩싸일 것"이라고 내다봤다. 그러면서 "한 전 대표는 자신의 정체성을 확실하게 갖고 가겠다는 모습을 보인다"고 평가했다. 영상을 클릭하면 자세한 내용을 볼 수 있다. 한동훈 전 대표가 20일 부산 광안리를 시작으로 현장 유세를 하겠다고 밝혔다. 김문수 후보와 같이 유세하지 않겠다고 분명히 선을 그었다.

  • 25.05.1808:30
    한국 부자들도 솔깃…70억짜리 영주권 골드카드, 美재정부채 모두 갚나
    한국 부자들도 솔깃…70억짜리 영주권 골드카드, 美재정부채 모두 갚나

    트럼프 행정부가 외국인 부유층을 대상으로 500만달러(약 71억원)를 내면 미국 영주권을 즉시 발급해주는 '골드카드' 제도의 시스템 테스트에 들어갔다. 16일 일론 머스크 정부효율부 수장은 "미국의 새로운 영주권 카드인 골드카드가 테스트에 들어갔다"고 밝혔다. 이 제도는 지난 2월 트럼프 대통령이 처음 발표한 후 테스트 단계에 돌입한 것이다. 트럼프 대통령은 "전 세계 잠재 고객이 3700만명에 달하며, 10만개만 팔려도 미

  • 25.05.1708:30
    트럼프 장남의 사교클럽 논란…입회비만 7억
    트럼프 장남의 사교클럽 논란…입회비만 7억

    도널드 트럼프 미국 대통령의 장남 트럼프 주니어가 전세계 정재계 인사들을 대상으로 회원비 50만달러(약 7억원)의 고액 사교클럽을 만들어 논란이 되고 있다. 특히 이 클럽의 이름이 '이그제큐티브 브랜치(Executive Branch·행정부)'로, 아버지의 대통령직을 이용해 사적 이득을 추구한다는 비판이 미국 내에서 쏟아지고 있다. 트럼프 주니어는 현재 중동, 유럽, 아시아 각국을 돌며 주요 정재계 인사들을 만나고 이들을 '행정부

  • 25.05.1706:00
    트럼프 때문에 재점화 된 '캘렉시트' 논란…캐나다에 역합병되나
    트럼프 때문에 재점화 된 '캘렉시트' 논란…캐나다에 역합병되나

    미국 서부 최대 경제 중심지인 캘리포니아에서 미국으로부터의 분리 독립 운동이 본격화되고 있다. 소위 '캘렉시트(Calexit)'로 불리는 이 움직임은 도널드 트럼프 대통령의 2기 집권과 관세 전쟁에 따른 경제적 피해가 직접적인 계기가 된 것으로 분석된다. 캘리포니아 내에서는 분리독립을 위한 주민투표 절차가 이미 시작됐다. 현재 주 내에서 서명 운동이 진행 중이며, 오는 7월 말까지 54만 명의 청원 서명을 모으면 분리 독립

  • 25.05.1515:48
    이정현 "이준석 호랑이굴로 돌아와라, 한동훈은 선대위 참여해야"
    이정현 "이준석 호랑이굴로 돌아와라, 한동훈은 선대위 참여해야"

    이정현 국민의힘 공동선대위원장이 5월 14일 오후 4시, 아시아경제 유튜브 'AK라디오'에 출연했다. 이 위원장은 "윤석열 전 대통령이 당을 위해서, 선거에 도움이 된다면 스스로 결단해줘야 한다"며 "한동훈 전 대표도 당장 선대위에 들어와야 한다"고 강조했다. 1시간 동안 진행된 인터뷰 내내 이 위원장은 특유의 열정적인 목소리로 자기 생각을 밝혔다. 인터뷰 핵심 내용을 요약했다. 대선 전체 판도를 어떻게 보나.투표가 임박

  • 25.05.1414:34
    4050 채용도 어려운 中企 "정년 따질 때가 아니죠"
    4050 채용도 어려운 中企 "정년 따질 때가 아니죠"

    시화공단 현장 르포 '쿵' 하는 소리를 내며 작동하는 육중한 프레스 기계. 쉴 새 없이 움직이는 이 대형 설비 앞에서 재빠른 몸놀림으로 작업 중인 신송남씨는 단 한시도 긴장을 늦출 수가 없다. 옆 사람의 말소리마저 집어삼킬 만큼 커다란 굉음을 내뿜으며 엘리베이터에 들어가는 부품을 찍어내는 이 설비 앞에서 방심은 곧 대형 사고로 이어지기 때문이다. 지난 12일 찾아간 경기도 시화공단 내 정일산업 공장에서 처음 마주한

  • 25.05.1410:34
    70세 이상 상용직 10년새 4배 증가
    70세 이상 상용직 10년새 4배 증가

    법정 정년 이후 고용문제는 단순히 60세 이상에만 그치지 않는다. 기대수명 연장으로 고령화 추세가 이어지면서 직업을 가진 70세 이상 고령 근로자도 뚜렷하게 증가하는 것으로 나타났다. 한때 생계형 임시·일용직 중심이던 고령자 일자리는 점차 상용직과 전문직으로 옮겨가고 있다. 단순한 노인 일자리 확대를 넘어 고령 인력을 안정적으로 활용하는 구조로 이행하는 흐름이 나타나고 있는 것이다. 이 때문에 정년을 연장하는

  • 25.05.1409:46
    66세 K방산 베테랑 "정년 연장에 할 수 있는 일도 늘었다"
    66세 K방산 베테랑 "정년 연장에 할 수 있는 일도 늘었다"

    지난 12일 경북 구미시 LIG넥스원 구미 하우스에서 만난 조강현 수석매니저는 흡사 군(軍) 지휘관의 눈빛을 하고 있었다. L3동 2층 TMMR 생산공장에서 근무하는 200여명의 직원 한 명 한 명을 그는 매의 눈으로 지켜봤다. 그리고 핵심만 짚은 조언이 이어졌다. 그는 "통신 장비개발에만 있다 보니 라인별 생산공정에서 잘못된 점이 한눈에 보인다"며 "완성도를 높이기 위한 방안을 매일 고민 중"이라고 했다. 군 지휘관처럼 생산 현

  • 25.05.1409:44
    60세 넘어도 월급 안 깎고 정규직…"4050 채용 어려우니 71세 큰형님도 소중"
    60세 넘어도 월급 안 깎고 정규직…"4050 채용 어려우니 71세 큰형님도 소중"

    '쿵' 하는 소리를 내며 작동하는 육중한 프레스 기계. 쉴 새 없이 움직이는 이 대형 설비 앞에서 재빠른 몸놀림으로 작업 중인 신송남씨는 단 한시도 긴장을 늦출 수가 없다. 옆 사람의 말소리마저 집어삼킬 만큼 커다란 굉음을 내뿜으며 엘리베이터에 들어가는 부품을 찍어내는 이 설비 앞에서 방심은 곧 대형 사고로 이어지기 때문이다. 지난 12일 찾아간 경기도 시화공단 내 정일산업 공장에서 처음 마주한 장면은 소음 탓에 귀

  • 25.05.1211:02
    "정부는 큰 틀만 설계‥시행은 자율에 맡겨야"
    "정부는 큰 틀만 설계‥시행은 자율에 맡겨야"

    기업들은 정년을 65세까지 연장하는 제도 자체보다 이를 누가, 어떻게 시행할지에 더 큰 관심을 보였다. 대부분의 기업은 정부가 제도의 큰 틀만 설계하고, 실제 시행 여부는 기업이 자율적으로 결정할 수 있어야 한다는 입장을 밝혔다. 획일적 적용보다는 각 조직의 여건을 고려한 유연한 도입 방식을 선호한다는 것이다. 실제 조사에서 응답 기업의 59.4%는 정년연장 제도를 정부가 설계하더라도 시행 여부는 기업 자율에 맡겨야


다양한 채널에서 아시아경제를 만나보세요!

위로가기