[블룸버그 칼럼]AI는 '맨해튼 프로젝트'의 운명을 맞는가

오픈AI가 2022년 11월30일 챗GPT를 출시한 이후 전 세계는 인공지능(AI) 열풍에 빠졌다. 단 5일 만에 챗GPT의 사용자는 100만명이 넘었고 이제는 1억명에 달한다. AI 기술인 거대언어모델(LLM)은 점점 더 교묘해질 것이며 인간이 만든 어떤 종류의 규제로도 통제할 수 없게 될 날이 올지도 모른다. AI 개발 열풍의 결과가 2차 세계대전 당시 핵무기 개발 계획인 맨해튼 프로젝트와 비슷한 운명을 맞이하게 될 수도 있다. AI에 관한 필자의 관점을 8가지 정치적·지정학적 질문에 대한 답으로 담았다.

1. AI가 올해 선거에 부정적인 영향을 미칠까.

그럴 가능성이 높다. 미국 선거 캠페인의 예산은 다른 선진국에 비해 훨씬 크기 때문에 새로운 커뮤니케이션 기술이 정치 기업가들에 의해 빠르게 채택될 전망이다. 오픈AI의 GPT-4와 같은 LLM은 엄청난 정치적 잠재력을 가지고 있다. 인간의 감독이 거의 없이 방대한 양의 그럴듯한 콘텐츠를 생성할 수 있다. 우리는 이미 뉴햄프셔 예비 선거에서 조 바이든 대통령 목소리를 모방한 가짜 자동 녹음 전화를 마주한 적이 있다. 이번 선거에서 AI가 악의적인 방식으로 사용되는 것으로 드러날 경우 규제에 대한 목소리는 더욱 커질 것이다.

2. 미국 규제로 AI가 억제될까.

현재 미국 의회에는 코네티컷주의 리치 블루멘털 민주당 상원의원과 미주리주의 조시 호울리 공화당 상원의원이 후원하는 초당적 미국 AI 법안이 발의돼 있다. 인터넷 역사상 핵심적인 법안인 통신 품위법 230조가 AI에는 적용되지 않는다는 게 핵심이다. 이 경우 기업이 AI로 생성된 유해 콘텐츠를 유포할 경우 책임을 져야 한다.

문제는 이 법안의 통과 여부다. 아마 어려울 것이다. 의회는 새로운 기술을 매우 느리게 규제해 온 전례가 있다. 철도가 발명된 후 최초의 연방 규제까지 걸린 시간은 62년이었다. 전화는 33년, 라디오는 15년, 인터넷은 13년이 걸렸다.

3. 그렇다면 유럽은 AI 규제에 성공할 것인가.

유럽연합(EU)은 명실상부하게 AI 규제 분야에서 세계를 선도하기를 바라고 있다. AI 활용 분야를 총 네 단계의 위험 등급으로 나눠 차등 규제하는 포괄적 AI 규제 법안은 올해 말 공식적으로 채택될 예정이며 대부분의 조항은 2026년에 발효된다.

EU가 AI 규제에 대한 세계적 표준을 정할 수 있을지는 의문이다. 유럽의 가장 큰 문제는 프랑스의 허깅페이스를 제외하고 주요 AI 기업이 없다는 점이다.

4. 글로벌 거버넌스 시스템에 대한 전망은.

이상적인 글로벌 거버넌스 시스템은 불량한 국가가 최첨단 AI 모델을 개발하거나 접근하는 걸 막도록 하는 것이다. 이러한 조치는 그래픽처리장치(GPU)에 대한 글로벌 수출 통제 체제 등으로 이뤄질 수 있다. 물론 이 같은 시스템은 이미 구축돼 있다.

지금은 중국을 타깃으로 하고 있다. 중국은 이미 AI 강대국이기 때문에 효과를 충분히 발휘하기는 어렵다. 글로벌 AI 거버넌스 체제가 단기간 또는 중기적으로 실현될 가능성이 매우 낮다는 것을 시사한다. 당분간 AI 선점을 위한 ‘군비 경쟁’은 현재와 같은 빠른 속도로 계속될 것이다.

5. AI 부문에서 중국이 미국을 따라잡을 수 있을까.

아직까지 중국의 AI 기술은 미국보다 열등하다. 이런 기조는 당분간 이어질 것이다. 우선 중국의 경우 AI 관련 기술 개발을 위해 필수적인 첨단 반도체를 직접 생산할 능력이 없다. 따라서 반도체 위탁생산 업체 TSMC, 극자외선(EUV) 노광장비업체 ASML의 도움이 필수적인데 미국이 이를 막고 있어서다.

미국은 안심할 수 없다. 중국은 미국 규제를 우회할 방법을 찾기 위해 열심히 노력하고 있다. 또 AI 부문 인재가 빠르게 늘어나고 있다. 소련은 미국보다 훨씬 뒤늦게 핵무기 경쟁을 시작했고 따라잡는 데 20년이 걸렸지만 결국 따라잡았다는 것을 명심해야 한다.

6. AI는 정말로 새로운 맨해튼 프로젝트(핵개발 프로젝트)인가.

AI의 잠재적인 용도와 신기술에 관한 인류의 역사로 비춰볼 때 충분히 그럴 수 있다. AI를 활용할 수 있는 분야는 무궁무진하다. 의료과학의 가능성은 특히 놀라울 것이다. 그러나 핵분열의 역사와 견줘볼 때 인류는 AI의 파괴적인 잠재력을 개발하는 데 많은 노력을 기울일 것임을 시사한다.

7. AI 세계에는 얼마나 많은 에너지가 필요한가.

필자가 가장 정확한 분석을 하고 있다고 생각하는 세미애널리시스 전망에 따르면 2030년까지 데이터센터가 전 세계 에너지 생산량의 4.5%를 사용하게 될 것이다. 매우 많은 양이다. 최근 몇 주 동안 미국의 주류 언론은 천연가스 발전 비중을 줄이고 재생 가능한 에너지원의 발전 비중을 늘리겠다는 희망이 의미하는 바를 집중 보도하고 있다. 이제 그 희망은 사라졌다.

8. AI는 미래 전쟁에 어떤 영향을 미칠까.

AI 낙관론자 마크 안드레센은 "AI가 전쟁이 일어날 수밖에 없는 상황에서 전시 사망률을 획기적으로 줄여줄 것"이라고 말한다. 이는 AI가 불필요한 유혈을 최소화하면서 훨씬 나은 전략적 결정을 내리는 데 도움이 될 것이라는 이유에서 기인한다.

필자는 그 반대가 될 것이라고 생각한다. 다가오는 전쟁에서는 AI가 미사일 등 무기를 훨씬 더 정교하게 만들 것이기 때문에 사망률이 매우 높아질 것이다. 이는 이미 러시아·우크라이나 전쟁에서 사용하고 있는 AI 기반 드론을 보면 알 수 있다.

나일 퍼거슨 블룸버그 칼럼니스트

이 글은 블룸버그의 칼럼 ‘From Deepfakes to Arms Races, AI Politics Is Here’를 아시아경제가 번역한 것입니다.