확률적 계산에 특화된 신개념 컴퓨터…AI 새 시대 열까 [테크토크]

AI 훈련·추론 방식과 매우 흡사한
신개념 확률 특화 컴퓨터 개발
"AI 작업에 엔비디아 GPU 보다 1만배 더 효율적"

컴퓨터는 0과 1, 두 숫자로 작동하는 기계입니다. 초기 컴퓨터부터 지금의 인공지능(AI) 반도체에 이르기까지 이 법칙에서 벗어난 적은 없습니다. 그러나 최근 한 미국 스타트업은 0과 1을 확률적으로 생성해 AI 모델의 계산을 직접 수행하는 새로운 종류의 컴퓨터를 발명했다고 주장합니다. 컴퓨터의 이름은 '열역학 샘플링 장치(TSU)'. AI 구현만을 목표로 개발된 완전히 새로운 개념의 컴퓨터입니다.

AI 연구하던 물리학자…패러다임 뒤집는 칩 내놓다

TSU는 캐나다 출신 수학자이자 물리학자인 기욤 베르동(Guillaume Verdon)이 설립한 스타트업 '엑스트로픽(Extropic)'에서 개발했습니다. 공식 홈페이지 설명에 따르면 베르동은 구글의 양자 AI 기술인 '텐서 플로우 퀀텀' 연구 논문 저자이며, 직접 양자 컴퓨터 스타트업을 창업하는 등 AI 연구에 매진해 온 인물입니다. 하지만 기존 컴퓨터 반도체로는 AI를 제대로 구현하기 어렵다는 한계에 봉착, 모든 프로젝트를 취소한 뒤 2022년 엑스트로픽을 설립하고 신개념 컴퓨터 개발에 몰두했습니다.

엑스트로픽이 내놓은 세계 최초의 확률론적 컴퓨터 반도체 XTR-0. 엑스트로픽

엑스트로픽은 3년 만에 침묵을 깨고 이달 초 TSU를 공개했습니다. 겉으로는 중앙처리장치(CPU), 그래픽처리장치(GPU) 등 일반 컴퓨터 칩과 비슷해 보입니다. 다른 반도체처럼 실리콘으로 만들었고, 전자 기판에 다른 부속들과 함께 결합했습니다. 그러나 엑스트로픽은 기술 설명서에서 "TSU는 엔비디아의 GPU 대비 1만배 더 효율적으로 AI 작업을 수행"한다고 주장합니다. TSU는 어떻게 이런 성능을 낼 수 있을까요.

결정론적 컴퓨터 vs 확률론적 컴퓨터

흔히 '컴퓨터는 0과 1로 사고한다'고 하지요. 이는 컴퓨터의 핵심 부품, 반도체 트랜지스터와 관련 있습니다. 트랜지스터에 전류가 흐르는 상태를 켜짐(1)으로, 흐르지 않는 상태를 꺼짐(0)으로 두고, 트랜지스터 상태에 따라 논리를 구현하는 방식입니다. 예를 들어 우리가 마우스를 움직이거나 키보드를 누를 때, 해당 명령이 수많은 0과 1로 바뀌면서 컴퓨터가 인식할 수 있게 됩니다.

0과 1만 사용하는 이유는 전류라는 미세한 신호를 오차 없이 받아들일 수 있기 때문입니다. 전류의 강약과 상관없이 전류가 흐르면 1, 흐르지 않으면 0으로 판단하면 되니 기계적 오류를 최소화할 수 있지요. 예측한 그대로 정확한 결괏값을 나타냅니다.

일반 컴퓨터 반도체(위)와 열역학 샘플링 장치(TSU)의 작동 방식을 비유한 것. 반도체는 트랜지스터에 전류가 흐르냐 아니냐에 따라 0과 1을 고정적으로 출력하지만, TSU는 전자의 파동에 따라 확률적으로 0과 1을 내놓는다. 온라인 커뮤니티, 엑스트로픽 캡처

반면 TSU는 전류 신호가 아니라 전자의 진동, 즉 파동에 따라 값을 내놓는데, 기존 반도체처럼 0과 1만 출력하는 건 동일해도 두 값 중 무엇을 내놓을지는 순전히 무작위입니다. 엑스트로픽은 TSU의 작동 방식을 '확률론적 알고리즘'이라고 정의하지요.

AI 작동 방식 빼닮은 TSU

컴퓨터는 0과 1을 기반으로 연산을 수행하도록 설계돼 있는데, 해당 값이 무작위로 도출되면 작동 자체가 불가능할 겁니다. 실제로 TSU는 일반 소프트웨어를 구동할 수 없습니다. 대신 무작위로 출력한 연산 결과들을 '샘플'로 취급합니다. 그리고 최대한 많은 샘플들을 수집해 커다란 패턴을 인식하지요.

이런 특징은 신경망 AI와 매우 흡사합니다. AI는 무수히 많은 데이터를 훈련하고, 해당 데이터에서 적절한 패턴을 추출하는 기술이니까요. 우리가 AI 챗봇에 특정한 질문을 던지면, 챗봇은 미리 학습한 패턴과 가장 일치할 확률이 높은 단어, 혹은 이미지를 골라 조합해 우리 앞에 보여줍니다.

기존 컴퓨터가 AI모델을 학습할때 데이터를 천문학적인 행렬 곱으로 변환해 일일이 계산한다면, 확률 패턴을 구현하는 컴퓨터는 복잡한 계산 과정을 건너뛰고 곧바로 결과를 출력할 수 있다는 얘기입니다. 이에 대해 베르동은 "AI 알고리즘은 결국 확률적으로 분포한 행렬 곱셈에 불과하다"며 "기존 컴퓨터가 수많은 행렬 곱셈을 직접 수행했다면, TSU는 행렬 곱셈을 생략하고 확률 분포 그 자체를 샘플링하는 것"이라고 설명했습니다. "1와트(W)의 소비 전력 당 최고의 AI 성능을 달성할 수 있다"는 주장이지요.

대세 되려면 실행 환경 구축해야

엔비디아도 그래픽 처리 장치(GPU)라는 개념을 정립한 기업이지만, GPU 호황에 이르기까지 무수한 역경을 겪었다. 로이터연합뉴스

그렇다면 TSU는 앞으로 엔비디아 GPU를 앞질러 AI 반도체의 대세가 될까요. 아직은 가능성으로만 남아 있습니다. TSU가 당장 AI, 핵 시뮬레이션, 에너지 관리 등 확률론적 알고리즘이 필요한 작업에 우위를 나타내도 실행환경이 제대로 갖춰져 있지 않아 사용할 수 있는 분야가 제한적입니다. GPU가 AI 시장에서 쌓아온 생태계와 범용성을 넘어설 수 없는 상황인 거죠.

베르동 또한 "우리는 TSU 개발까지는 성공했지만, 실용적인 단계에 이르려면 더 많은 도움이 필요하다"고 시인했습니다. 엑스트로픽은 현재 물리학, 생물학, AI, 에너지 등 확률 연산을 하는 연구원들을 대상으로 실행환경 구축을 위한 협력을 요청하고 있습니다. 최근 공식 홈페이지에는 "대규모 확률 작업을 수행하고 싶은 기업들과 협력해 시스템 애플리케이션(앱)을 개발하려 한다"는 제안서가 올라왔습니다.

과거 엔비디아가 세계 최초의 GPU '지포스 256'을 출시했을 때도, 시작부터 성공 가도를 걷지는 않았습니다. 젠슨 황 CEO가 직접 발로 뛰며 마케팅과 영업을 하고, 수십년간 GPU로 실행할 수 있는 다양한 프로그램을 거듭 연구한 끝에 AI 시대의 승자 타이틀을 거머쥘 수 있었지요. 확률 컴퓨터가 어떻게 미래를 바꿀지는 엑스트로픽의 향후 행보에 달려있는 셈입니다.

임주형 기자 skepped@asiae.co.kr