[피스앤칩스]'올해 수요만 3억GB'…AI서버 핵심칩에 쏠리는 눈

반도체 업황 부진에도 HBM 긍정 전망 지속
HBM 가격, DDR5 D램보다 3~5배 비싸
올해 GPU와 쓰이는 HBM 용량 60% 증가

편집자주현대 산업의 쌀로 불리는 반도체. 매일 듣는 용어이지만 막상 설명하려고 하면 도통 입이 떨어지지 않죠. 어렵기만 한 반도체 개념과 산업 전반의 흐름을 피스앤칩스에서 쉽게 떠먹여 드릴게요. 숟가락만 올려두시면 됩니다.

"고성능 인공지능(AI) 서버에 의존할수록 고성능 AI 반도체가 필요하다. 2023~2024년 동안 고대역폭메모리(HBM) 수요를 늘릴 뿐 아니라 2024년 고급 패키징(HBM 메모리와 중앙처리장치(CPU), 그래픽처리장치(GPU) 등을 합하는 것) 용량을 30~40% 늘릴 수 있다."

시장조사업체 트렌드포스는 21일 보고서를 통해 이같이 밝혔습니다. 생성형 AI 수요가 급증하면서 마이크로소프트(MS), 구글, 아마존웹서비스(AWS) 등 주요 클라우드 서비스 제공 업체(CSP)뿐 아니라 중국 업체인 바이두, 바이트댄스 등도 AI 서버 개발에 속도를 낼 수 있다며 내놓은 전망입니다.

HBM은 반도체 시장에 관심을 두는 분이라면 최근 여러 번 들어본 제품일 겁니다. 반도체는 메모리 반도체(저장)와 시스템 반도체(연산)로 나뉘는데요, HBM은 메모리 반도체 중에서도 전원이 꺼지면 저장 정보가 사라지는 D램 종류입니다. 여러 개 D램을 수직으로 쌓아 데이터 전송 속도를 높인 제품이죠.

HBM은 일반 D램보다 데이터 전송 속도가 빠르다 보니 AI 서버에 쓰이기 좋습니다. 최근 대용량 데이터 처리가 필수인 AI 서버에 GPU와 함께 필수로 탑재되는 이유입니다. 세계 메모리 시장을 주름잡는 삼성전자와 SK하이닉스가 HBM 제품 개발에 공을 들이는 배경이기도 합니다.

트렌드포스는 엔비디아, AMD GPU와 구글 텐서처리장치(TPU) 등이 AI 서버에 탑재될 때 포함되는 HBM 용량이 올해만 2억9000만기가바이트(GB)일 것으로 내다봤습니다. 작년과 비교해 60% 급증한다는 겁니다. 또 내년엔 추가로 30% 늘어날 수 있다고 예상했습니다. 그야말로 장밋빛 전망이죠.

물론 HBM 시장을 두고선 조심스러운 반응도 나옵니다. 화제성에 비해 시장이 제대로 형성되지 않았다는 겁니다. 반도체 업계에선 HBM 시장 규모가 전체 D램 시장의 1% 안팎일 것으로 내다봅니다. 작년 D램 시장 규모가 약 800억달러였던 것을 참고해 계산해보면 HBM 시장은 8억달러 내외일 것으로 보입니다.

그럼에도 메모리 기업들은 차세대 메모리 중요 키워드로 HBM을 제시합니다. 삼성전자 반도체 수장인 경계현 DS부문장(사장)은 이달 임직원 소통 채널(위톡)에서 AI 시대를 주제로 발표하며 "AI 시대가 도래하면 AI 성능과 효율을 높이는 반도체 중요성이 높아지기에 HBM이 중요하다"고 말했답니다.

업계에선 앞으로 삼성전자와 SK하이닉스 등 주요 사업자들이 HBM 시장에서 먹거리를 키우는 데 주력할 것이라는 전망이 나옵니다. 삼성전자는 최근 '볼트'로 끝나는 여러 HBM 브랜드명을 특허청에 출원하는 등 분주한 행보를 보이고 있습니다. 하반기엔 HBM 5세대 제품인 HBMP를 선보이겠다고 예고했습니다.

김동원 KB증권 연구원은 "삼성전자가 4분기부터 북미 GPU 업체에 HBM3(HBM 4세대 제품)를 본격적으로 공급할 것"이라며 "삼성전자 D램 매출에서 HBM3 비중이 올해 6%에서 내년 18%까지 확대된다"고 전망했답니다.

GPU와 HBM(메모리)이 하는 일을 나타낸 인포그래픽. GPU는 메모리에 저장된 인공신경망 및 데이터 일부를 지속해서 가져와 연산(학습 및 추론)하고, 중간 산출물과 최종 결과 등을 메모리에 저장하는 과정을 반복한다. [이미지 및 설명 출처=SK하이닉스 뉴스룸]

2013년 세계에서 처음으로 HBM을 개발하며 시장에서 입지를 쌓은 SK하이닉스 역시 하반기에 HBM3E(HBM 5세대 제품) 샘플을 내놓으며 먹거리 확대에 나섭니다. 최근 참가한 미국 IT 전시회 'HPE 디스커버 2023'을 포함해 차세대 메모리를 소개하는 자리마다 HBM 제품을 선보이며 기술력을 자랑하고 있죠.

지난달엔 세계 최초로 최고 용량 제품인 24GB HBM3를 개발, AMD를 포함한 고객사에 샘플을 제공했다는 소식을 전했습니다. 로먼 키리친스키 AMD 메모리 제품 부문 총괄 책임자(부사장)는 이와 관련해 "새로운 HBM 메모리를 지속해서 개발해내는 SK하이닉스 노력에 감사한다"고 말하기도 했습니다.

HBM은 현재 고성능 제품으로 가격대가 높은 서버용 더블데이터레이트(DDR)5 D램보다 가격이 3~5배 높습니다. 업계에선 향후 HBM 수요와 공급이 늘면서 가격이 내려가게 되면 본격적으로 시장이 열릴 수 있다고 봅니다. 국내 기업들이 열어갈 HBM 시장을 기대해야겠네요.