엔비디아 GPU 26만장 동력…AI제조기지 한국 시대 연다

GPU의 핵심 HBM 중요성 부각
AI팩토리 다룰 수 있는 국가 中 제외하면 韓이 유일
김정호 카이스트 교수 "AI 팩토리·AI메모리 팩토리 시대"
최태원 "메모리 병목‥공급 요청 대응 고민"
GPU확보가 끝 아냐‥자체 AI능력 확보 절실
백준호 "GPU·NPU 투 트랙으로 추진해야 해야"

젠슨 황 엔비디아 최고경영자와 이재용 삼성전자 회장, 정의선 현대차그룹 회장이 지난달 30일 서울 코엑스에서 열린 엔비디아의 그래픽카드(GPU) '지포스' 출시 25주년 행사 단상에 올라 퍼포먼스를 하고 있다. 한국 AI팩토리의 출범을 알리는 축포로 읽혔다.

최태원 SK그룹 회장이 메모리 반도체 공급 병목 현상을 언급했다. 엔비디아의 그래픽처리장치(GPU) 대규모 확보로 국내 제조 인공지능(AI)이 퀀텀 점프할 기회를 맞이한 것과 동시에 반도체 슈퍼사이클 역시 본궤도에 올랐다는 평가가 나온다.

최 회장은 3일 서울 코엑스에서 열린 국내 최대 AI 콘퍼런스인 'SK AI 서밋 2025' 기조연설에서 "메모리 성능이 아니라 공급 병목이 나타나는 시대로 접어들고 있다"며 "너무 많은 기업으로부터 공급 요청을 받아 어떻게 다 대응해야 할지 고민"이라고 밝혔다.

AI 발 반도체 호황과 함께 한국은 엔비디아에서 26만대의 블랙웰(Blackwell) GPU를 공급받기로 했다. 한국이 글로벌 'AI 제조 기지'로 도약할 수 있는 변곡점에 서게 된 것이다.

젠슨 황 엔비디아 CEO가 지난달 31일 경북 경주시 경주예술의전당에서 열린 아시아태평양경제협력체(APEC) CEO 서밋에 참석해 최태원 대한상의 회장과 만나 AI슈퍼컴퓨터 'DGX스파크'를 선물하고 있다.

고대역폭메모리(HBM) 개발을 주도하며 그래픽처리장치가 AI를 학습 및 추론하는 데 결정적 기여를 한 김정호 카이스트(KAIST) 전기·전자공학부 교수도 이날 아시아경제에 보낸 특별기고를 통해 "포드 자동차 공장이 컨베이어 시스템으로 근대 제조의 역사를 바꿨듯, 이제는 'AI 팩토리'가 AI 시대의 새로운 공장이 되고 있다"고 진단했다.

김 교수에 따르면 'AI 팩토리'는 수만 대의 GPU와 수십만 대의 HBM이 광통신으로 촘촘히 연결된 거대한 집적 시설이다. AI 팩토리 없이는 AI 서비스도, 기술 개발도 불가능하다. 특히 교육, 의료, 금융 등 전 산업에 AI를 결합하기 위한 필수 인프라다.

AI 시대에 GPU는 가장 핵심 자원이다. GPU는 산업혁명을 이끈 '석탄'과 같은 역할을 한다. 이번에 확보한 26만대는 AI 팩토리를 시작하는 최소한의 기초 물량이다.

젠슨 황 엔비디아 최고경영자(CEO)는 지난주 15년 만에 한국 땅을 밟았다. 그의 한국행은 정세상 당연하다는 분석이다. 그에겐 최 회장이 지적했듯이 HBM 확보가 중요해졌기 때문이다. 김 교수는 "HBM 없는 GPU는 불가능하다"며 "미래 1000만대 GPU 시장을 꿈꾼다면 8000만대의 HBM이 필요한데, 삼성전자와 SK하이닉스의 물량을 다 받아도 모자랄 지경"이라고 분석했다.

황 CEO가 강조하던 '피지컬 AI'를 넘어 AI 팩토리까지 모두 다룰 수 있는 국가도 중국을 제외하면 한국이 유일하다. 자동차, 전자, 화학, 제철, 조선, 원자력 등 한국의 제조업과의 협업이 없다면 AI 팩토리는 무의미하다. 그 기회가 우리에게 넘어왔다.

이재용 삼성그룹 회장이 지난달 30일 오후 서울 강남구 삼성역 인근 깐부치킨 매장에서 젠슨 황 엔비디아 최고경영자(CEO)과 치킨 회동 중 받은 선물과 사인을 공개하고 있다. 정의선 현대차그룹 회장은 선물을 살펴보고 있다. 황 CEO의 선물은 'DGX 스파크'라는 최신 초소형 슈퍼컴퓨터이다. 황은 일론 머스크 스페이스X CEO와 샘 올트먼 오픈AI CEO에게도 직접 찾아가 DGX 스파크를 선물했다.

◆'AI 제조 허브' 기회 잡은 한국= 황 CEO는 모국인 대만에 GPU를 선제적으로 공급하고 현지 기업과 AI를 적용한 제조업 혁신 방향을 제시해 왔다. 그가 올 초 세계 최대 전자·IT 전시회인 CES 기조연설에서 로봇을 상징하는 피지컬 AI 시대를 선언할 때도 우리는 지켜만 봐야 했다. 연구의 핵심 기반인 GPU가 부족했기 때문이다.

지난 7월 방문했던 박찬훈 한국기계연구원 자율성장 AI 휴머노이드 글로벌 TOP 전략연구단장의 방에는 작은 상자가 있었다. 박 단장은 2020년 출시된 엔비디아의 구형 GPU인 '지포스 3090'을 사용하고 있다고 했다. 그는 더 좋은 GPU를 확보하기도 어렵고 확보한 GPU를 연구자별로 나눠주기도 쉽지 않다고 했다. 주요 빅테크(대형 정보기술 기업)와 각국 정부는 AI와 자국 산업 육성을 위해 GPU 확보에 국가 정상이 직접 나섰지만 우리는 그렇지 못했다. 황 CEO는 도널드 트럼프 미국 대통령의 호출을 받고 아랍에미리트(UAE)로 향했기 때문이었다. GPU 확보는 정상 차원의 경쟁이다.

급격한 AI 시대의 변화 속에 한때 우리 정부는 국산 반도체를 개발해 AI 강국으로 도약할 수 있다는 오판도 했다. 지난해 8월 취임한 유상임 전 과학기술정보통신부 장관은 "우선 시급한 불을 끄기 위해서는 GPU 확보가 필요했다. 지난 5월 황 CEO를 만나기 위해 샌프란시스코로 갔다"고 말했다. 유 전 장관은 황 CEO를 만날 수 없었다.

상황은 달라졌다. 황 CEO가 이재용 삼성전자 회장, 정의선 현대차 회장과 치맥(치킨+맥주)을 하고 연단에 올라 한국 국민을 향해 메시지를 보낸 것은 이런 이유다. 황 CEO는 방한 기간 이 회장, 정 회장, 최 회장에게 'DGX스파크' 초미니 슈퍼컴퓨터를 전달했다. 황 CEO에게 직접 이 선물을 받은 이는 일론 머스크 테슬라 CEO와 샘 올트먼 오픈AI CEO 정도다. 황 CEO에게서 직접 DGX스파크를 전달받은 기업은 로켓, AI, 반도체, 자동차기업이다. 미국 기업을 제외하면 한국 기업이 주류다. 향후 GPU를 중심으로 형성될 제조 혁신 연구의 중심축이 한국임을 보증한 셈이다.

우여곡절을 거쳐 황 CEO가 26만대의 GPU를 한국에 제공하기로 했다. 이는 한국이 미국, 중국에 이어 '3대 AI 칩 보유국'의 지위를 확보했음을 의미하는 동시에, GPU를 확보한 정부와 기업에 막중한 '책임'을 부여한다. AI 팩토리의 '심장'을 쌓아둔다고 AI 제조 강국이 되는 것이 아니기 때문이다.

GPU 확보가 끝일 수 없다. 이제부터는 'AI 제조 프로젝트' 설계를 서둘러야 한다. 각 기업은 확보한 GPU를 바탕으로 구체적인 기술 개발 및 자금 투입 계획을 실행해야 한다. 소프트웨어, 알고리즘, AI 서버 기술과 이를 운용할 핵심 AI 인력 확보도 발등의 불이다. 엔비디아에 대한 무조건적인 의존도도 경계해야 한다.

이재명 대통령이 더불어민주당 대선 예비후보이던 지난 5월 서울 강남구 퓨리오사AI에서 백준호 퓨리오사AI 대표와 악수하고 있다. 2025.4.14 국회사진기자단

국산 신경망처리장치(NPU) 반도체 기업 퓨리오사의 백준호 대표는 "연산 자립 없는 AI 강국은 성립하기 어렵다. 우리 AI 반도체가 반드시 글로벌 경쟁력을 확보할 수 있도록 전력으로 매진하고 있다. 정부도 GPU 확대와 NPU 육성을 투 트랙으로 추진해야 한다"고 말했다.

'현실의 벽'인 사회 인프라도 시급히 해결해야 할 과제다. AI 팩토리 하나에 GW급 전력 공급과 막대한 냉각수가 필요하다. 정부 차원의 에너지 수급 계획과 입지 선정이 너무나 중요하다.

백종민 테크 스페셜리스트 cinqange@asiae.co.kr