'당첨 확률 100%' 복권의 정체…끊임없이 1등을 놓치지 않은 엔비디아의 비법 [테크토크]

'필요에 의해 탄생한' GPU
과학용 칩에서 AI 가속기로
젠슨 황, 끊임없는 진화 추구

'하드웨어 복권(Hardware lottery)'이라는 말이 있습니다. 구글 브레인 연구원 사라 후커가 2020년 제안한 용어로, 인공지능(AI) 가속기로 급부상한 엔비디아 그래픽처리장치(GPU)의 인기를 설명하기 위해 도입됐습니다.

필요에 의해 탄생한 프로세서

'당첨 확률 100%' 복권의 정체…끊임없이 1등을 놓치지 않은 엔비디아의 비법 [테크토크]

젠슨 황 엔비디아 최고경영자(CEO)가 지난 18일(현지시간) 미국 캘리포니아주 새너제이에서 열린 인공지능(AI) 콘퍼런스 'GTC 2024'에서 신상품을 선보이고 있다. GTC는 매년 엔비디아가 주최하는 세계 최대 규모 AI 콘퍼런스다.[사진출처=AFP연합뉴스]

하드웨어 복권의 골자는 간단합니다. '대세'가 되는 반도체 하드웨어는 사실 제조사의 탁월한 기술력이나 설계가 아니라, 소프트웨어 개발자의 필요에 의해 결정된다는 겁니다.

즉, 처음 AI가 떠오를 때 컴퓨터 공학자들은 방대한 신경망을 처리할 만한 다중 코어 프로세서가 필요했습니다. 하지만 당시 하드웨어 시장의 대세였던 CPU는 적합하지 않았고, 대신 급한 김에 택한 게 GPU였지요. 한 마디로 엔비디아 GPU는 단순히 당시 시장에서 쉽게 구할 수 있는 프로세서 중 그나마 가장 머신러닝(ML)에 효율적인 구조를 갖췄을 뿐이었다는 겁니다.

후커 연구원이 이런 현상을 '복권'에 빗댄 이유가 이해되실 겁니다. 아무리 뛰어난 기업, 개인, 국가도 미래에 어떤 소프트웨어가 대세가 될지 예측할 수 없습니다.

엔비디아가 끊임없이 1등을 놓치지 않은 방법

그럼 엔비디아가 오늘날 반도체 산업계의 패권을 거머쥔 이유는 단순히 운이 좋아서였을까요? 그렇지는 않습니다. 어쩌면 GPU가 초기 AI 프로세서로 선택받은 건 복권 당첨과 비견될 만한 행운이었을 수도 있지만, 그 모멘텀을 지금까지 살려낸 건 젠슨 황 최고경영자(CEO)와 엔지니어들의 피땀 어린 노고 덕분이었습니다.

대표적으로 엔비디아의 병렬 컴퓨팅 플랫폼 'CUDA'가 있습니다. GPU는 2004년부터 이미 여러 개의 코어를 결집한 병렬형 컴퓨팅 프로세서로 진화 중이었고, CUDA는 이를 제어하기 위한 플랫폼이었습니다. 오늘날 신경망 AI도 병렬 컴퓨팅으로 처리되지요.

엔비디아 CUDA 로고 [이미지출처=엔비디아]

하지만 CUDA가 처음 발표된 2007년 머신러닝은 대중에게 극히 생소한 용어였습니다. 황 CEO도 처음 CUDA를 개발할 땐 입자의 움직임, 물리 현상 등을 계산하는 복잡한 과학용 컴퓨터를 만들 생각이었습니다. 그러나 머신러닝이 점차 인기를 얻기 시작한 2010년대 중반, 민첩하게 AI로 선회했던 겁니다.

지난 십수 년 간 GPU 아키텍처도 무수한 변화를 겪어 왔습니다. 엔비디아는 CUDA 코어, 텐서 코어, 트랜스포머 코어 등 병렬 컴퓨팅에 적합한 새로운 기술들을 끊임없이 만들어내고 GPU 설계도에 이식해 왔습니다. 그 결과 최신 세대 데이터센터(AI용) GPU의 아키텍처는 게이밍 GPU와 판이한 형태로 갈라지고 있지요.

게임을 위한 장치에서 과학용 프로세서로, 그리고 AI 전용 프로세서로 변신을 거치는 동안 엔비디아가 주목한 건 오직 하나, 실제로 컴퓨터 칩을 구매하는 소비자들의 '피드백'이었습니다.

사실 엔비디아의 진짜 강점은 기술력(엔비디아의 매출 대비 R&D 지출은 어지간한 빅테크(대형 정보기술 기업)보다 훨씬 낮은 수준입니다)이나 선견지명이 아닙니다. 대신 엔비디아는 칩 사용자들과 언제나 밀착해 있었습니다. 이 경우는 AI를 연구하는 거대 기업의 연구소부터 대학 랩 등을 모두 포함합니다. 소프트웨어가 어떤 방향으로 진화하는지 항상 예의주시함으로써 엔비디아는 10년 넘게 '하드웨어 복권' 1등을 놓치지 않을 수 있었던 겁니다.

빅테크부터 스타트업까지 직접 찾아가는 CEO

GTC에 소개된 자율주행 스타트업 '웨이브'의 주행용 AI. 웨이브는 카메라와 강화학습만으로 완전 자율주행을 개발 중인 기업으로, 생성형 AI 분야의 혁신을 가져온 회사로 손꼽힌다. [이미지출처=X 캡처]

엔비디아가 얼마나 소비자 친화적인 기업인지 보려면, 최근 열린 GPU 개발자 콘퍼런스인 'GTC 2024'를 자세히 보세요. 황 CEO는 단순히 신제품을 소개할 뿐만 아니라, 기업들이 GPU를 이용해 어떤 기술을 개발 중인지도 꼼꼼히 체크합니다. 그는 수만 장 단위로 칩을 사는 빅테크는 물론, 이제 막 연구를 시작한 AI 스타트업들 부스까지 직접 방문합니다.

엔비디아가 뉴욕 증시 3대 기업으로 점프하자 황 CEO는 마치 '록스타' 같은 스포트라이트를 받고 있습니다. 그의 광대한 비전과 집요한 사업 철학에 찬사를 보내거나, 부러움을 토로하는 의견도 있습니다.

유전체 분석기기 '옥스퍼드 나노포어' 기술자들과 함께 사진을 촬영한 황 CEO. 유전공학은 GPU와 AI가 적극적으로 접목되는 신기술 분야이며, 나노포어는 주목받는 신예 기술 업체 중 하나다. [이미지출처=엑스]

하지만 황 CEO와 엔비디아는 언제나 '비전'이 아닌 '소비자'에 주목하는 기업이었습니다. GPU는 수십 년 앞을 내다본 큰 그림이 아니라 그때그때 필요에 따라 진화해 온 프로세서입니다.

사실 황 CEO의 사업 전략은 무(無)전략이라 해도 과언이 아닙니다. 그는 지난해 스웨덴 '사나 랩(SANA lab)'과의 인터뷰에서 엔비디아의 사업 전략에 대해 이렇게 말한 바 있습니다. "우리는 5개년 계획 같은 주기적인 전략을 짜지 않습니다. 왜냐하면 우리가 사는 세상은 살아 숨 쉬는 곳이기 때문입니다"