‘제미나이3’의 주역 구글 TPU…엔비디아 벗어나는 新 AI전쟁

구글의 역전…TPU가 만든 균열
TPU 부상과 엔비디아 생태계의 흔들림
빅테크의 선택지 확대…GPU 대안 찾기 움직임
한국은 아직 출발선…엔비디아 의존도 해소가 과제

'검색 제왕' 구글이 AI 왕좌를 되차지했다. 구글이 최근 선보인 AI '제미나이3'는 오픈AI(챗GPT)가 선두에 서고 앤스로픽(클로드)과 구글이 추격하던 상황을 단번에 역전시켰다. 그 이면에는 구글이 엔비디아의 조력을 받지 않고 스스로 개발한 TPU(Tensor Processing Unit)라는 반도체가 자리 잡고 있다. 구글이 엔비디아에서 고가의 최신 그래픽처리장치(GPU)를 사지 않고도 대형언어모델(LLM)을 학습시킨 것을 지켜본 AI 업계는 내심 반색하고 있지만, 엔비디아는 여전히 자신만만해하고 있다.

구글이 TPU로 구성한 시스템. 사진=구글클라우드 블로드

구글은 알파고 AI로 사람과의 바둑 대결에서 승리하는 신기원을 이뤄냈고, 트랜스포머(Transformer) 논문으로 생성형 AI의 출현을 가능케 했다. 지난해에는 알파폴드(Alpahfold)라는 단백질 분석 AI로 노벨 화학상도 차지했다.

이런 구글도 고된 시련을 겪었다. 2023년 챗GPT의 등장 이후 선보인 '바드'가 제대로 체면을 구겼다. 바드가 이름을 바꾼 것이 지금의 '제미나이'다.

구글이 엔비디아의 적극적인 지원을 받는 오픈AI를 추격하는 것이 불가능하다는 지적도 있었지만, 현실은 달랐다. 구글은 브로드컴과 함께 개발한 TPU라는 독특한 반도체를 이용해 제미나이를 학습시키면서 조금씩 발전해왔고, 결국 역전에 성공했다. 제미나이3가 발표된 후 샘 올트먼 오픈AI CEO가 우리가 "당분간 어려움을 겪을 것"이라고 인정했을 정도다. 이용자들도 챗GPT5에 비해 제미나이3의 손을 들고 있다.

구글 AI 제미나이 소개하는 마니쉬 굽타 디렉터. 연합뉴스

◆엔비디아 견제 세력 필요한 빅테크의 구세주=구글의 시도가 이목을 끄는 이유는 간단하다. AI 학습의 필수조건이라는 엔비디아 GPU 없이 탄생한 승리이기 때문이다.

TPU도 AI를 위해 탄생한 것은 아니었다. 마치 GPU가 게임을 위해 탄생한 것과 비슷한 운명이다. TPU는 구글의 전문분야인 검색 속도를 빠르게 하기 위한 방안으로 도입됐다. GPU가 그래픽 처리를 위해 탄생한 후 AI 연산을 아우르는 범용 반도체라면, 구글 TPU는 오직 딥러닝 가속을 위해 설계된 '맞춤형(ASIC)' 반도체다. 오로지 구글만 TPU를 사용하며 하드웨어와 소프트웨어를 아우르는 수직체계를 완성했다. 대부분의 AI기 업들이 엔비디아 GPU와 쿠다(CUDA) 언어에 의지하던 것과 대비되는 행보였다.

GPU와 비교해 적용 대상은 적지만 전력 소비가 적은 것도 TPU의 장점이다. GPU가 유지비용이 많이 들어도 전천후 성능을 자랑하는 SUV라면, TPU는 전용 서킷에서 제 실력을 발휘하는 스포츠카인 셈이다.

물론 여전히 절대적인 성능은 TPU와 비교해 GPU가 우수하다. 엔비디아는 블로그를 통해 TPU의 부상을 경계하면 자신들의 기술이 한세대 앞서 있다고 선을 긋고 나섰지만, 시장은 TPU의 급부상을 엔비디아 생태계에도 균열이 벌어질 수 있음을 시사하는 지점으로 포착 중이다. 시포트의 제이 골드버그 애널리스트는 "TPU가 7세대에 접어들며 더욱 강력해지고 전력 소비를 낮추면서 엔비디아 GPU의 강력한 대안으로 부상했다"고 진단했다.

구글만 사용하던 TPU는 외부 판매를 하지 않지만 클라우드 방식으로 외부에서도 사용할 수 있다. 오픈AI에서 독립한 일리야 수츠케버가 설립한 세이프 슈퍼인텔리전스, 앤스로픽, 세일즈포스, 미드저니, 애플 등에 이어 메타까지 TPU 도입을 추진 중이라는 소식이 전해진 것은 지나치게 비대해진 엔비디아에 대한 반발이기도 하다. 엔비디아의 칩을 수요만큼 구하기 어려운 상황에서 구글 TPU가 충분한 대안이 된 셈이다. TPU에 대한 관심은 데이터센터 설립을 위한 투자 비용 절감에 방점이 찍힌다.

다만 TPU가 엔비디아의 완전한 대체를 이루기는 어렵다는 게 중론이다. 블룸버그 통신은 구글조차도 TPU가 엔비디아 GPU를 대체할 수 없다고 꼬집었다. 시장 조사업체 가트너의 가우바르 굽타는 "구글조차 엔비디아의 최대 고객 중 하나"라며 "급변하는 환경에서는 GPU가 여전히 더 높은 성능으로 활용도가 크다"고 설명했다.

◆우리는 이제야 엔비디아 GPU 확보‥대안이 없다=TPU의 급부상은 한국에도 시사하는 바가 크다. 현재 AI 개발사들은 엔비디아의 GPU에 대한 지나친 의존도를 낮추려는 시도 중이다. 구글 TPU에 앞서 AMD가 주목받은 이유기도 했다.

문제는 엔비디아의 GPU도 제대로 갖추지 못한 우리의 실정이다. 엔비디아 생태계 구축도 못 한 상황에서 AMD, 구글까지 협력하기에는 힘에 부친 것이 현실이다.

한 업계 관계자는 "AMD의 GPU도 꽤 성능이 좋다고 들었다. 하지만 현장에서는 함부로 사용할 수가 없다"고 말했다. 기존에 엔비디아의 쿠다(CUDA)를 이용해 만든 시스템을 다른 형태로 수정하려다가 낭패를 볼 수 있기 때문이라고 설명한다. 빅테크들의 경우 대량의 엔비디아 생태계 구축을 해놓은 상황에서 추가로 AMD나 구글 TPU를 활용할 수 있지만, 우리의 경우 아직 엔비디아 기반 구축이 우선적이라는 뜻이다.

26만장이나 되는 엔비디아 GPU를 확보하더라도 대안을 모색할 필요가 존재하는 이유다. 특히 NPU를 중심으로 국내 스타트업의 진출 시도가 이뤄지고 있지만 제대로 된 생태계를 구성하기까지는 기업의 노력과 정부의 지원이 함께 필요하다. 한 정부 관계자도 "NPU 기업들을 지원해야 할 이유가 분명히 있다"고 말했다.

이미 해외에서도 관련 기업들의 인수합병이 이뤄지면 업계 구조조정이 이뤄지는 중이다. AI 칩 스타트업인 삼바노바는 인텔의 품에 안길 가능성이 높은 상황이다. 이 과정에서 임원들이 한국의 AI 칩 스타트업인 리벨리온으로 옮겨오기도 했다. 영국의 그래프코어는 지난해 소프트뱅크에 인수됐다. 메타는 한국의 퓨리오사AI를 인수하려 했지만 성사되지 않았다. 또 다른 한국의 스타트업 리벨리온은 사피온을 합병하며 새로운 도전에 나섰다.

백종민 테크 스페셜리스트 cinqange@asiae.co.kr