[K반도체의 미래③]망고부스트, 엔비디아 맞서는 AMD의 핵심 파트너

김장우 대표 "엔비디아의 진짜 무기는 칩 하나가 아닌 연결 시스템"
韓 갈 길은 'AI 인프라 독립'
시스템 장악 플랫폼 기업 돼야
국산 NPU 성능 발휘 위해 데이터 입출력 병목 해결사 나서

김장우 망고부스트 대표가 서울 사당동 사무실에서 아시아경제와 인터뷰하며 포즈를 취하고 있다. 사진=백종민 테크 스페셜리스트

인공지능(AI) 전쟁에서 승리하기 위해 정부와 기업들은 천문학적인 예산을 쏟아부어 엔비디아의 그래픽처리장치(GPU)를 확보하거나 그 대안으로 신경망처리장치(NPU)를 개발하는 데 사활을 걸고 있다.

하지만 그런 전략만으로는 AI 전쟁에서 승리할 수 없다고 단언하는 인물이 있다. 바로 서울대 전기정보공학부 교수이자, 데이터처리장치(DPU) 개발 스타트업 '망고부스트(MangoBoost)'를 이끄는 김장우 대표다.

김 대표는 아시아경제와의 인터뷰 내내 "엔비디아의 진짜 무기는 칩 하나가 아니라, 그 칩들을 연결하는 시스템"이라며 한국이 나아가야 할 새로운 'AI 인프라 독립'을 강조했다.

지난해 11월 미국 세인트루이스에서 열린 '슈퍼컴퓨팅 2025(SC25)' 현장에 이어 12월 초에 서울 사당동 망고부스트 사무실에서 김 대표를 다시 만났다. 부품을 파는 것이 아니라, 시스템 전체를 장악하는 플랫폼 기업이 돼야 한다고 역설하던 그의 신념은 새해를 맞이하며 더욱 확고해져 있었다.

그가 진단한 한국 시스템 반도체 산업의 가장 큰 약점은 '파편화'다. 세계적인 수준의 NPU를 설계하는 팹리스들은 등장했지만, 정작 팹리스들이 제작한 칩을 데이터센터에 꽂았을 때 데이터를 원활하게 제어해 줄 '시스템 아키텍처'가 부족하다. 김 대표는 이 지점을 망고부스트의 역할로 정의했다.

"아무리 좋은 엔진(NPU)을 만들어도 도로(네트워크)가 비포장도로라면 속도를 낼 수 없다. 망고부스트는 국산 NPU들이 100% 성능을 발휘할 수 있도록 데이터 입출력과 네트워크 병목을 해결하는 '고속도로'를 놓는 회사다."

김 대표는 최근 퓨리오사AI, 하이퍼엑셀 등 국내 유력 가속기 업체들과의 전략적 협력을 강화하고 있다. 단순한 업무협약(MOU)이 아니라 망고부스트의 DPU 기술을 국산 NPU와 물리적으로 결합해 외산 장비 의존 없이도 즉시 데이터센터에 투입 가능한 'K-AI 인프라 풀스택(Full Stack)'을 구축하겠다는 전략이다.

"엔비디아의 강점은 GPU 칩 자체가 아니라, 멜라녹스(Mellanox) 인수를 통해 확보한 막강한 네트워크 연결성이다. 우리 NPU 기업들이 칩 성능에 집중하는 동안, 망고부스트는 그 칩들을 수십, 수백 개 묶었을 때도 성능 저하가 없도록 시스템 레벨의 최적화를 지원할 것이다. 우리는 '원팀(One Team)'으로 움직여야만 엔비디아라는 거대한 성벽을 넘을 수 있다."

◇엔비디아 차세대 '베라 루빈' 스토리지 DPU도 판박이= 망고부스트의 기술적 선구안은 아이러니하게도 엔비디아의 최신 행보를 통해 증명됐다. 김 대표는 엔비디아가 세계 최대 전자·IT 전시회 CES 2026에서 공개한 차세대 아키텍처 '베라 루빈(Vera Rubin)'의 세부 스펙을 확인하고 깜짝 놀랐다. 엔비디아가 GPU가 처리할 데이터 병목 현상을 완화하기 위해 스토리지 기능을 대폭 강화한 DPU 개념을 선보였는데, 그 구조와 기능이 망고부스트의 제품과 유사했기 때문이다.

망고부스트는 이 기술을 엔비디아를 추격 중인 AMD에 공급하고 있다. 엔비디아를 추격하기 위한 비장의 무기를 오히려 엔비디아가 받아들인 셈이다. AMD는 강력한 GPU(MI300 시리즈)를 보유하고도 소프트웨어 최적화와 네트워킹 기술 부족으로 엔비디아 추격에 어려움을 겪고 있었다. 망고부스트는 이 틈새를 정확히 파고들어 파트너가 됐다.

"AMD의 GPU는 스펙상 훌륭하지만, 실제 데이터센터에 연결하면 소프트웨어 문제로 제 성능이 나오지 않는 경우가 많았는데 '망고 LLM부스트' 소프트웨어와 DPU를 AMD 시스템에 붙였더니, 성능이 엔비디아와 대등한 수준으로 올라갔다. 가격은 엔비디아 시스템 대비 상당히 경쟁력 있는데 성능은 같았으니 고객들이 반길 수밖에 없다." 현재 AMD는 공식 블로그와 기술 백서에 망고부스트를 핵심 파트너로 소개하고 있다.

현재 망고부스트의 전체 직원 140여명 중 110명 이상이 한국에 상주하고 있다. 핵심 인력은 서울대 김장우 교수의 제자들과 삼성전자, 구글, 엔비디아 출신의 한국인 수재들이다. 실리콘밸리 기업에서 연봉 5억원, 10억원을 제안받는 세계 최정상급 인재들이 해외로 나가지 않고 한국에 모여 '대한민국이 약했던 시스템 반도체 분야에서 우리가 한번 보여주자'는 일념으로 뭉쳤다. 미국 법인은 글로벌 비즈니스와 대규모 투자를 위한 전초기지일 뿐, 망고부스트의 심장은 한국에서 뛰고 있다.

백종민 테크 스페셜리스트 cinqange@asiae.co.kr