머스크 "AI 개발 6개월간 멈추자"…유명인사들과 공개서한 낸 이유

"위험 관리 가능할 때 개발돼야"
머스크-올트먼 악연도 영향 끼쳤나 주목

"우리는 모든 인공지능(AI) 연구소가 즉각 GPT-4를 능가하는 AI 시스템의 개발을 최소 6개월간 중단해 달라고 요청합니다."

일론 머스크 테슬라 최고경영자(CEO), 애플 공동 창업자 스티브 워즈니악, 세계적인 베스트셀러 작가 유발 하라리 히브리대 교수까지. 세계 유명 인사 1100여명이 28일(현지시간) 미 비영리단체 '삶의 미래 연구소(FLI)'가 내놓은 공동 서한에 서명했다.

일론 머스크 테슬라 CEO [이미지출처=AP연합뉴스]

이들 외에도 세계적 AI 권위자로 꼽히는 스튜어트 러셀 버클리 캘리포니아대(UC버클리) 컴퓨터과학과 교수, 딥러닝의 창시자로 알려진 요슈아 벤지오 몬트리올대 교수, 알파벳 산하 AI 기업 딥마인드 연구진 등 저명한 AI 전문가들도 줄줄이 이름을 올렸다. 이미지 생성 AI '스테이블 디퓨전' 개발사인 '스테빌리티.AI'의 에마드 모스타크 CEO 등 AI 업체 관계자도 있었다.

챗GPT 열풍을 일으킨 개발사 오픈AI의 샘 올트먼 CEO는 서명 명단에 없었다. 월스트리트저널(WSJ)은 올트먼 CEO의 이름이 처음에는 올라갔다가 나중에 삭제됐다면서 올트먼 CEO가 본인은 이 서한에 서명한 적이 없다고 했다고 전했다. 순다르 피차이 알파벳 CEO와 마이크로소프트(MS)의 사티아 나델라 CEO도 서명하지 않았다.

지난해 11월 말 오픈AI의 챗GPT 공개 이후 전 세계에서 생성형 AI 열풍이 불고 있다. 오픈AI가 최근 GPT-4를 공개했고, MS와 구글이 검색 엔진에 AI 챗봇을 탑재하고 속도전을 벌이고 있다. 이러한 상황에 각 기업 CEO는 물론 AI 전문가까지 이들은 왜 AI 개발을 멈춰 달라고 요청한 것일까.

◆ "위험 관리할 수 있을 때 개발돼야"

이들은 AI 시스템이 사회와 인류에 엄청난 리스크를 안겨줄 수 있어 관리가 필요하지만 최근 수개월간 AI 연구소들이 제어가 불가능한 개발 경쟁에 갇혔다고 지적했다. 그러면서 독립적인 전문가들에 의해 공동의 안전 협약이 개발, 시행되고 감사를 받을 때까지 거대 AI 개발을 멈춰야 한다고 촉구했다. 이들은 서한에서 "강력한 AI 시스템은 그 효과가 긍정적이고 그 위험을 관리할 수 있다는 확신이 있을 때만 개발돼야 한다"고 강조했다.

[이미지출처=AP연합뉴스]

또 현대의 AI 시스템이 인간과 경쟁하고 있다면서 '기계가 프로파간다와 불신이 팽배한 정보의 창구가 되어야만 하는가', '모든 업무를 자동화 해야 하는가'와 같은 질문을 해봐야 한다고 주장했다. 그러면서 이러한 시스템이 사회와 문명에 잠재적 위험을 미칠 수 있다면서 개발자들이 규제 당국과 협력할 것을 촉구했다.

이러한 유명 인사들의 공개서한은 최근 들어 AI 관련 산업이 주목을 받으면서 무비판적인 개발이 이뤄지고 있다는 점을 우려한 것으로 보인다. 서한에 서명한 인물들은 대부분 이미 공식 석상에서 AI가 잘못 활용될 가능성을 우려하며 관련 규제나 정책이 필요하다고 목소리를 내왔다.

AI에 대한 관심이 커지자 영국 정부는 이날 AI 관련 백서를 발간하고 AI가 활용되는 방식에 맞춘 상황별 접근방식을 마련할 것을 규제 당국에 촉구했다. AI가 영국 경제에 37억파운드(약 6조원) 규모의 경제 효과를 가져올 것이라고 추정했지만 AI가 기존 법률을 준수하고, 개인을 차별하거나 불공정한 상업적인 결과를 초래하지 않아야 한다고 강조했다.

유럽연합(EU) 경찰기구 유로폴도 전날 온라인 피싱과 허위 정보 유포, 사이버 범죄 등에 챗GPT와 같은 첨단 AI가 오용될 수 있다고 경고하면서 윤리적·법적 우려를 제기했다.

◆ '오픈AI 초기 투자자' 머스크, 올트먼과는 악연?

AI 열풍이 부는 상황에 나온 이번 서한은 내용이나 서명에 참여한 인사 명단뿐 아니라 발표 배경에도 시선이 쏠린다.

공개서한을 내놓은 단체 FLI는 어떤 단체일까. 이 단체 공식 홈페이지에는 AI, 생명공학, 핵무기, 기후변화 등 네 가지 주요 기술로 인해 발생할 수 있는 위험에 대해 전 세계에 알리는 것이 주요 업무라고 소개하고 있다. WSJ는 이 단체가 지난주부터 서한 작성 작업에 돌입했다고 전했다. 주요 외신이 유럽연합(EU)의 투명성 관련 기록을 인용한 바에 따르면 이 단체 2021년 예산의 86%가 머스크재단의 기부금으로 채워졌다.

샘 올트먼 오픈AI CEO [이미지출처=로이터연합뉴스]

머스크 CEO는 오픈AI의 초기 투자자였다. 2015년 올트먼 CEO가 처음 투자자를 모집하려고 개최한 캘리포니아의 한 행사장에 그가 현장에 있었고 이후 인연을 이어갔다. 하지만 2018년 머스크 CEO는 테슬라의 AI 연구에 따른 이해 충돌 문제가 있었고 오픈AI 이사직에서 사임했다. 당시 공식 입장은 그러했으나 실제로는 머스크 CEO가 오픈AI 인수를 시도하다가 올트먼 CEO와 다른 투자자들로부터 거부당해 결국 이사직에서 물러났다는 보도가 최근 나왔다. 머스크 CEO는 오픈AI의 개발 속도가 구글에 비해 더디다는 이유를 들었던 것으로 전해진다.

머스크 CEO는 AI의 위험성에 대해 종종 언급해왔다. 지난해 11월 오픈AI가 챗GPT를 공개한 이후 머스크 CEO는 자신의 트위터를 통해 '챗GPT는 무서울 정도로 좋다. 위험할 정도로 강력한 AI가 우리 가까이에 있다'는 글을 올리는 등 관심을 표명해왔다. 유명 인사들의 공개서한 내용과 유사한 주장이다. 머스크 CEO는 또 지난달 '오픈AI는 오픈소스에 구글에 대항해 균형을 맞추는 비영리단체로 처음 시작했으나 지금은 클로즈드 소스에 이익을 극대화하는 MS에 의해 조종당하는 회사가 됐다'고 비판하기도 했다.

올트먼 CEO는 지난해 12월 처음 머스크 CEO가 챗GPT 의 위험성을 지적할 때는 '동의한다'고 반응했다. 하지만 지난 25일 그는 팟캐스트에 나와 "일론이 분명 트위터에서 우리를 공격하고 있다"며 머스크 CEO가 AI의 문제점을 해결하기 위한 오픈AI의 노력을 알아주길 바란다고 했다고 미 경제 매체 비즈니스인사이더는 전했다. 또 다른 팟캐스트에서는 머스크 CEO를 '멍청이(jerk)'라고 표현하기도 했다.

◆ "공개서한이 AI 피해 해결 오히려 어렵게 해"

유명 인사들의 공개서한 발표 이후 에밀리 벤더 워싱턴대 교수 등은 오히려 이 서한이 AI의 실제 피해를 알린다기보다 AI가 얼마나 강력한지에 초점을 맞춰 홍보해주고 있는 모습이라는 지적했다.

아빈드 나라야난 프린스턴대 교수도 "아이러니하게도 이 공개서한이 AI 과대광고를 부추기고, 이미 현실에서 나타나고 있는 실제 AI 피해를 해결하기 어렵게 만든다"면서 AI로 인해 발생할 진정한 위협 요소는 대량 실업 등이 아니라 실제 개인에게 금융이나 신체적 손해를 끼치는 것이라고 비판했다.

정현진 기자 jhj48@asiae.co.kr