손안의 AI슈퍼컴‥젠슨황이 머스크·올트먼에게 들고갔다

엔비디아, DGX스파크 15일부터 판매 개시
128기가바이트 메모리 탑재
거대 파라미터 오픈소스 AI 모델을 책상 위에서 구현
데이터센터 중심 슈퍼컴퓨터를 책상 위로 옮겨와
오픈소스 AI시대의 새 변화 주도 예상
국내에서는 24일부터 공급

기업과 학교의 연구실 책상에서 손바닥만 한 크기의 슈퍼컴퓨터를 활용해 인공지능(AI)을 이용한 다양한 연구를 할 수 있는 시대가 열렸다. 고가의 장비가 없어 고민하던 연구자들에게 가뭄의 단비와 같은 소식이다. 오픈AI와 같은 최첨단 AI 기업조차 이 제품의 출시를 반길 정도로 향후 AI 시대에 과학 발전의 새로운 계기가 될 수 있다는 기대가 나온다.

젠슨 황 엔비디아 최고경영자(왼쪽)가 미국 텍사스주 스페이스X 본사를 방문해 일론 머스크 최고경영자에게 최신 소형 슈퍼컴퓨터인 'DGX 스파크'를 직접 전달하고 있다. DGX스파크는 AI를 위한 슈퍼컴퓨터임에도 머스크 CEO의 손바닥 정도 크기에 불과하다. 엔비디아 X.

16일 업계에 따르면 그래픽처리장치(GPU) 기업 엔비디아는 15일(현지시간) 'DGX 스파크'를 미국 현지에서 공급하기 시작했다. DGX 스파크는 지난 1월 미국 라스베이거스에서 열린 세계 최대 전자·IT 전시회인 CES에서 젠슨 황 엔비디아 최고경영자(CEO)가 직접 선보였던 초소형 슈퍼컴퓨터다. 당시 현장에서 실물을 봤던 기자도 그 작은 크기에 놀랐었다.

황은 이 제품을 직접 들고 스페이스X와 오픈AI를 직접 방문해 일론 머스크 테슬라 CEO에게 전달했다. 황 CEO가 제품 출시에 이 정도의 홍보 행보를 보이는 것은 이례적이다. 황 CEO는 스페이스 X의 11번째 '스타십' 발사를 앞두고 "가장 작은 슈퍼컴퓨터를 가장 큰 로켓의 옆으로 배달하는 것을 상상해 보라"라고 말했다.

샘 올트먼 오픈AI 최고경영자가 신형 초소형 슈퍼컴퓨터 DGX 스파크를 직접 들고 온 젠슨 황 엔비디아 최고경영자와의 기념 사진을 공유했다. 젠슨 황은 9년 전 최초의 DGX 슈퍼컴퓨터를 선보였을 때도 오픈AI에게 직접 들고 가 전달했다. X.

황 CEO는 엔비디아의 첫 슈퍼컴퓨터 DGX-1 모델을 2016년 오픈AI에 직접 들고 가 전달했다. 샘 올트먼 오픈AI CEO는 이번 DGX 스파크의 전달을 당시 기억과 연결하며 반겼다. 엔비디아 슈퍼컴퓨터 DGX가 AI용 슈퍼컴퓨터의 시작을 알렸던 일을 황 CEO가 다시 재현한 것은 그만큼 의미를 두고 있다는 뜻으로 해석된다.

DGX 스파크는 손바닥에도 올려놓을 수 있는 크기임에도 강력한 AI 연산 성능을 가지고 있다. 엔비디아는 이 장비가 AI 추론(Inference) 작업에서 최대 1페타플롭스(PFLOPS) 수준의 처리 능력을 낼 수 있다고 소개했다. 1초에 1000조번의 부동소수점 연산이 가능하다.

GB10 그레이스 블랙웰 슈퍼칩을 사용했고 128GB 통합 메모리를 탑재했다. 128GB나 되는 고용량의 메모리를 담은 덕에 최대 2000억개 매개변수(parameters)를 갖는 AI 모델도 처리할 수 있다. 일부 조정을 하면 더 큰 모델도 사용할 수 있다. 실험실에서 사용하는 PC용 GPU가 통상 24GB의 메모리를 가지고 있다. DGX 스파크를 사용하면 인터넷 연결 없이 큰 용량의 오픈소스 AI 모델을 직접 내려받아 사용하거나 개발한 모델을 시험해 볼 수 있다. 로컬 AI를 위한 슈퍼컴퓨터라고 해도 과언이 아니다. 딥시크의 등장 이후 확산 중인 오픈소스 AI의 활용에도 최적의 환경이 열린 셈이다. 메모리 반도체 사용 확대의 물꼬를 트는 계기가 될 수도 있다.

물론 비판도 있다. 고대역폭메모리(HBM)를 사용한 GPU보다 속도가 느리기 때문이다. 한 연구자는 "가격을 고려하면 그 정도의 불편을 감수해야 할 것 같다"고 말했다. 장동인 카이스트(KAIST) 교수는 "연구자들에게 대안이 될 수 있다"고 말했다.

젠슨 황 엔비디아 최고경영자가 2016년 첫 DGX 슈퍼컴퓨터를 직접 오픈AI에 들고 가 전달하는 모습을 일론 머스크가 지켜보고 있다. 일론 머스크 X.

DGX 스파크의 가격은 미국 기준 3999달러로 책정됐다. 엔비디아의 데이터센터용 GPU가 수천만 원에서 수억 원을 주고도 구매하기 어렵다는 점을 고려하면 주머니가 가벼운 기업과 연구실에서는 매력적인 대목이다.

엔비디아 측은 크리에이터들까지 DGX 스파크의 잠재 고객으로 분류하고 있다. 이는 향후 고가형 PC의 시장까지 잠식할 수 있다는 의미다. 애플, 인텔, AMD 등이 장악한 기존 시장에도 영향을 미칠 수 있다. AI 관련 연구실의 클라우드에 대한 의존도도 변화할 수 있다. DGX 스파크를 공급하는 엠키스코어 관계자는 "국내에서는 오는 24일부터 출시될 것"이라고 말했다.

백종민 테크 스페셜리스트 cinqange@asiae.co.kr