[뉴스속 용어]정부가 미는 AI 반도체 'PIM', 어떤 기술이길래

메모리 반도체·시스템 반도체 융합
데이터 지연 문제 막아 AI 연산에 특화

삼성전자가 지난해 세계 최초로 공개한 PIM(Processing-in-Memory) 이미지 / 사진=연합뉴스

[아시아경제 임주형 기자] 과학기술정보통신부가 12일 2030년까지 국산 AI 반도체 기술 수준을 세계 최고로 끌어올릴 무기로 내놓은 인공지능(AI) 반도체 'PIM(Processing-in-Memory)'은 완전히 새로운 형태의 컴퓨터 칩이다. 한국 반도체 업계의 강점인 메모리 반도체에 시스템 반도체를 융합해 AI 프로그램 연산에 특화된 칩을 만드는 방식이다.

PIM은 두 개의 반도체를 합친 융합형 반도체다. 데이터를 저장하는 장치인 메모리 반도체에 프로그램 연산을 처리하는 '프로세서'(processor)를 합친 것이다. 왜 이런 형태의 반도체가 AI 시대의 '게임 체인저'로 떠오른 걸까. 이를 이해하려면 우선 컴퓨터가 어떻게 AI를 처리하는지 알아야 한다.

메모리에 프로세서 합친 AI 전용 반도체

오늘날 AI는 다양한 반도체를 통합한 '컴퓨팅 시스템'을 통해 처리한다. 여기에는 크게 AI 가속기, 중앙처리유닛(CPU) 등 '시스템 반도체'와 D램(DRAM), HBM 등 메모리 반도체가 있다. AI 가속기는 다시 그래픽처리유닛(GPU)이나 다른 AI 특화 반도체로 나뉜다.

AI를 처리하는 시스템은 대개 다양한 반도체를 통합한 슈퍼컴퓨터 형태로 이뤄졌다. 사진은 광주에 조성될 예정인 AI 데이터센터 / 사진=연합뉴스

GPU, CPU 등 시스템 반도체는 AI 프로그램을 처리한다. 한편 오늘날 신경망 AI는 거대한 데이터로 자가 학습을 반복해 능률을 증진하기에 데이터를 저장해 둘 공간이 필요하다. 마치 사람의 두뇌에 단·장기 기억 공간이 있듯이 말이다. 이 때문에 AI 컴퓨터는 프로세서와 메모리를 동시에 필요로 한다.

현재까지 AI 가속기 개발업체들은 시스템 반도체 '옆에' 메모리를 연결하는 방식으로 데이터 문제를 해결해 왔다. 일례로 세계 최대 GPU 설계사인 '엔비디아'의 최신 컴퓨팅 시스템은 모두 GPU와 HBM을 함께 제공한다. 하지만 이런 방식은 메모리에 저장된 데이터가 프로세서로 옮겨져 연산 작업을 수행하기까지 걸리는 시간, 즉 '지연(latency)'을 심화한다. 지연 시간이 클수록 AI의 훈련 효율은 떨어진다.

세계 최대 GPU 기업 '엔비디아'의 A100 DGX 포드 내부 모습. AI의 거대한 데이터를 저장하기 위해 GPU와 별개로 1테라바이트(TB)의 램(RAM)을 탑재했다. / 사진=엔비디아 공식 홈페이지 캡처

PIM은 지연 문제의 해결책으로 주목받고 있다. 즉, 메모리 안에 작은 연산 유닛을 통합함으로써 컴퓨터 칩이 데이터 기억과 프로그램 처리를 동시에 수행하도록 하는 것이다. 비록 순수 메모리 장치보다는 저장 용량이 적고 순수 프로세서보다는 연산 능력이 떨어지겠지만, 단 하나의 칩이 AI 연산에 필요한 모든 작업을 수행한다는 장점이 있다.

메모리 세계 1위 韓, PIM도 선두주자

세계 최고 수준의 메모리 반도체 기술력을 축적한 국내 업체들은 PIM 개발 경쟁에서도 선두주자다. 삼성전자는 지난해 HBM에 인공지능 연산 유닛을 통합한 'HBM-PIM'을 세계 최초로 공개한 바 있다. SK하이닉스 또한 지난 6월 D램에 그래픽 가속 유닛을 탑재한 'GDDR6-AiM'이라는 신개념 반도체를 내놔 업계의 주목을 받았다.

다만 PIM을 비롯한 AI 특화 반도체는 이미 다양한 해외 스타트업들이 포진한 분야라 치열한 경쟁이 예상된다. 대표적인 기술 기업인 영국 그래프코어, 미국 세레브라스 등은 이미 2010년대 중반부터 AI 연산 엔진에 소형 메모리 장치를 통합한 병렬 컴퓨팅 프로세서를 개발 중이다. 이런 반도체는 일각에서 PIM과 유사하다는 평가를 받아왔다.

임주형 기자 skepped@asiae.co.kr