카카오, 엔비디아와 파트너십…최신칩 GH200 도입

카카오가 엔비디아와 손잡고 인공지능(AI) 기업 전환에 속도를 올린다. 엔비디아의 최신 그래픽처리장치(GPU) 'GH200'을 도입하는 한편 데이터센터 관련 협업을 이어가고 있다.

타이 맥커처 엔비디아 수석부사장은 23일 경기도 용인 AI 캠퍼스에서 열린 개발자 행사 '이프 카카오 2024(if kakao 2024)' 둘째 날 행사에서 특별연사로 참석했다. [사진=카카오]

타이 맥커처 엔비디아 수석부사장은 23일 경기도 용인 AI 캠퍼스에서 열린 개발자 행사 '이프 카카오 2024(if kakao 2024)' 둘째 날 특별연사로 참석해 "카카오의 AI 기업 전환을 지원하고 있다"고 밝혔다.

카카오는 AI 기술 개발에 엔비디아의 추론 마이크로서비스(NIM)를 활용하고 있다. NIM은 AI 모델의 개발과 배포 등을 지원하는 소프트웨어(SW)다. 자체 AI 모델 성능을 극대화하기 위해 엔비디아의 최신 GPU인 'GH200'과 텐서RT 거대언어모델(LLM) 라이브러리도 활용하고 있다.

맥커처 부사장은 "GH200을 통해 효율적인 추론을 돕고 있다"면서 "카카오의 데이터센터 관련 디자인과 컨설팅을 제공하고 엔비디아의 경험을 토대로 기술을 더 빠른 속도로 도입하도록 뒷받침하고 있다"고 설명했다.

이어 그는 "이번 협업을 통해 엔비디아와 카카오의 미래는 상당히 밝다"며 "한국과 카카오에만 국한된 것이 아니라 더 넓은 AI 생태계를 위해 AI 서비스를 구축하면서 글로벌 경쟁력까지 강화할 수 있는 기회"라고 말했다.

최유리 기자 yrchoi@asiae.co.kr