올트먼·게이츠vs머스크·힌튼…거물들의 'AI 확산·규제' 논쟁

석학·기업인들, AI 규제 방법 두고 논쟁
올트먼 등 AGI 긍정…과도한 공포 경계
머스크·힌튼, 진보한 AI를 '핵폭탄' 비유

인공지능(AI) 산업의 패권을 둘러싸고 글로벌 빅테크, 스타트업 간 경쟁이 계속되는 가운데, 물밑에선 'AI 규제'에 대한 설전이 끊이지 않는다. AI 시대를 주도하는 석학·사업가·엔지니어들은 AI의 개발을 얼마나 제약할지, 어느 정도까지 상업화를 용인할지 등을 두고 팽팽한 공방을 벌이고 있다. AI 경쟁만큼이나 치열한 AI 논쟁을 주요 인물과 발언을 중심으로 살펴봤다.

'AI가 인류를 구원하리라'…확산·상업화 앞장서는 샘 올트먼 ·빌 게이츠

샘 올트먼 전 오픈AI CEO

AI의 '파괴적 혁신'에 주목하며 개발, 상업화를 가속하려는 인물은 단연 샘 올트먼 전 오픈AI 최고경영자(CEO)다. 그는 미국 빅테크 마이크로소프트(MS)로부터 최대 수조원에 해당하는 투자금을 유치하며 AGI(범인공지능) 개발을 진두지휘해 왔다.

올트먼은 AI의 발전이 인류의 번영을 이끌 수 있다고 확신하는 인물이다. 그는 과거 미 월스트리트저널(WSJ)과 인터뷰에서도 "향후 10년 간 인류의 가장 중요한 과제는 저렴하고 풍부한 에너지, 그리고 AGI"라고 강조했다.

AI 상업화에 가장 적극적인 인물도 올트먼이다. 그의 관할 아래 오픈AI는 생성형 인공지능 챗봇 '챗GPT'의 유료 버전을 내놓는 등 수익선을 개선해 왔다. 지난 18일(현지시간) 오픈AI 이사진이 갑작스럽게 그를 해고한 것도 AI 사업의 수익화 속도를 두고 사내 마찰이 커졌기 때문이라는 시각이 있을 정도다.

다만 그 역시 AI에 대한 규제가 필요하다는 입장이다. AI 개발 속도를 늦추기 위함이 아니라, "정부와 산업체가 협력해 알맞은 균형을 맞춰" 안정적인 산업계를 구축하고자 함이다. 올트먼은 지난 5월 미 의회 청문회에 참석한 자리에서 AI 기업에 'AI 모델 개발 라이센스'를 부여하는 규제 기관 창설을 지지했다.

마이크로소프트 창업자 빌 게이츠 [이미지출처=연합뉴스]

AI의 잠재력을 긍정적으로 평가하는 또 다른 거인은 MS 창업자 빌 게이츠다. 사실 게이츠는 현재의 신경망 AI가 태동하던 시점부터 주의 깊게 지켜봐 온 인물 중 한 명이다. 그는 2016년부터 이미 오픈AI와 접촉해 왔으며, 최근에는 자율주행 AI 분야에서 가장 앞서 나간다는 평가를 받는 스타트업 '웨이브' 창업자를 직접 찾아가기도 할 만큼 적극적이다.

게이츠는 과거 자신의 개인 블로그 '게이츠노트'에서 "(오픈AI의) GPT 모델을 처음 봤을 때 경외감을 느꼈다"라며 "AI의 발전은 반도체, PC, 인터넷만큼이나 근본적인 혁신이며, 전체 산업이 이를 중심으로 뒤바뀔 것"이라고 강조했다.

그는 AI에 대한 지나친 불신, 공포를 경계한다. 대신 AI를 이용해 세계적 불평등을 줄이는 데 집중해야 한다고 말한다. 게이츠는 "AI는 교육의 질 개선을 통해 미국의 불평등을 줄일 수 있고, 또 기후 변화 문제에도 힘을 실어줄 것"이라며 "내 자선단체인 '게이츠 제단'이 연구하는 문제에도 AI가 미칠 영향을 기대하고 있다"라고 했다.

'AI는 인류 문명 핵폭탄 될 것'…머스크·힌튼의 경고

일론 머스크 테슬라 CEO의 '뉴럴 링크'는 애초 인공지능의 발전에 맞서 인류의 자체 지적 능력을 강화하기 위해 설립됐다. [이미지출처=로이터 연합뉴스]

올트먼의 대척점에서 AI의 위험성을 경고하는 대표적인 인물은 일론 머스크 테슬라 CEO다. 아이러니하게도 머스크 CEO의 테슬라는 자율주행 AI 개발에 가장 적극적인 기업 중 하나다. 하지만 그는 과거부터 꾸준히 AGI의 위험성을 경고해 왔으며, 오픈AI와 대립각을 세우기도 했다.

그는 AGI가 설령 '착한 마음'으로 인류를 돕더라도 "AI, 자동화에 대한 선의의 의존이 기계의 작동 원리를 잊어버릴 정도로 나아가면 인류 문명은 위험에 처할 것"이라고 경고한다. 또 IT 업계 전반이 AI의 작동 원리에 대해 제한적으로만 이해하고 있다고 지적했다.

사실 그의 사업체 중 일부는 'AGI의 위험성'에 대적할 목적으로 설립됐다. 일례로 뇌에 초소형 컴퓨터를 심는 '뉴럴링크'는 진보한 AI에 맞서 인간의 지적 능력을 강화하겠다는 목표를 가졌다. 머스크 CEO는 올해 초 첨단 AI 개발을 6개월 중지하라고 요구하는 공개서한 서명에도 가장 적극적으로 참여했다.

올트먼이 오픈AI 이사진에 해고됐을 때도 머스크는 구체적인 해고 사유 설명을 요청했다. "고급 AI의 위험, 힘을 고려할 때 이사회가 왜 그렇게 과감한 결정을 내려야 했는지 대중에 알릴 의무"가 있다는 것이다.

현대 인공지능의 골자가 된 신경망 연구를 주도한 제프리 힌튼 [이미지출처=본인 SNS]

'딥러닝의 아버지'라고 불리는 컴퓨터 과학자 제프리 힌튼도 가장 적극적인 'AI 규제파' 석학 중 한 명이다. 그는 강연, 기사 기고, 소셜미디어 등을 통해 열성적으로 AI 관련 논쟁에 뛰어들고 있다.

힌튼은 AI를 '핵무기'에 비유한다. AI로 인해 국가 간 '알고리즘 군비 경쟁'이 펼쳐지거나, 결국 지나치게 똑똑해진 AI가 지구를 장악할 거라는 재앙적 비전이다.

그는 구글에 근무하면서 현대 AI의 초석이 된 신경망 연구를 도왔는데, 이에 대해서도 "내 업적을 후회한다"라며 "내가 하지 않았으면 다른 누군가가 했을 거라는 변명으로 나 자신을 위로한다"라고 자책했을 정도다.

챗GPT 같은 챗봇 서비스에 대해서도 "나쁜 목적으로 사용하는 것을 어떻게 막을 수 있겠는가"라며 "AI는 지금까지 나온 모든 소설, 마키아벨리가 쓴 책으로 사람을 조종하는 방법을 배울 것"이라며 "우리가 직접 (의사결정을 내릴) 레버를 당기지는 못하더라도, 우리가 레버를 당기도록 만들 수 있다는 것"이라고 설명한다.

규제 아닌 '개방'이 훨씬 안전…'제3지대' 저커버그

마크 저커버그 메타 CEO [이미지출처=연합뉴스]

AI 규제 논쟁엔 '제3지대'도 있다. 바로 AI 모델의 구성품을 무료로 대중에 공개하는 '오픈소스 AI' 진영이다. 여기에는 메타(페이스북) 창업자 마크 저커버그가 가장 적극적이다.

저커버그는 지난 9월 미국에서 열린 'AI 포럼' 당시 발언에서 AI의 오픈소스화가 일방적인 규제보다 더 '안전'하다고 강조했다. 그는 오픈소스화가 "연구를 공개적으로 출판하고 모델을 공유함으로써, 책임감 있는 사용 가이드를 구축할 수 있다"라고 설명한다.

구체적으로 AI로 인한 가짜 뉴스가 의심된다면, AI 모델을 오픈소스화해 AI 콘텐츠를 식별하는 워터마킹 방법을 마련할 수 있다는 것이다.

그는 이런 접근법이 "잠재적 위험을 최소화하는 동시에 잠재적 이점을 극대화하는 방안"이라며 "AI 도구가 의미 있는 진전이라고 생각한다면 그 잠재력을 과소평가하지 않는 게 중요"하다고 거듭 강조했다.

[이미지출처=로이터연합뉴스]

이런 저커버그의 AI 개발 철학은 메타의 AI 연구 자회사인 '메타 AI'도 공유한다. 메타 AI는 제프리 힌튼 등과 함께 AI의 선구자로 꼽히는 얀 르쿤이 이끌고 있는데, 그는 대표적인 'AI 긍정론자'임과 동시에 '오픈소스화'를 통해 AI를 안전하게 만들 수 있다고 본다.

르쿤은 AI 상업화를 가속하면서 정부와의 규제 협상을 추구하는 오픈AI, 강력한 AI 규제로 발전 속도를 늦추려는 AI 회의론자 모두 틀렸다고 본다. 이들은 AI를 일부 부유하고 힘 있는 이들의 '사유물'로 전락시킬 거라는 게 그의 주장이다.

르쿤은 "AI를 모든 사람에 자유롭게 개방하면, AI는 인간의 모든 지식과 문화를 습득하며 발전하고 있다. 한편 AI를 규제하면 미국, 중국 등 소수 국가의 거대 기업 AI만 살아남을 테고, 온라인은 이들 AI가 완전히 조종하게 될 것"이라며 "그렇게 되면 민주주의와 다양성에는 무슨 일이 생기겠나"라고 반문한다.

임주형 기자 skepped@asiae.co.kr