유영상 SKT CEO "초고속 AI 인프라 구축…아태 AIDC 허브 도약"

100㎿ 이상 AIDC 구축 후 GW급 확장
美 람다와 다음달부터 GPUaaS 시작
"한국 AI G3 도약할 수 있도록"

"인공지능(AI) 인프라 슈퍼 하이웨이(초고속 통신망)를 구축해 대한민국이 AI G3(주요 3국)로 도약할 수 있도록 앞장서겠습니다."

유영상 SK텔레콤 대표는 4일 서울 코엑스에서 열린 SK AI 서밋 2024 행사에서 "한국이 세계 최고 수준 정보통신기술(ICT) 인프라를 기반으로 ICT 강국 반열에 올랐던 것처럼 인프라를 출발하는 성공방정식이 AI 시대에도 적용될 수 있다"며 이같이 밝혔다. 유 대표는 SK ICT 위원장을 맡고 있으며 행사는 4~5일 양일간 진행된다.

SKT는 ▲AI 데이터센터(DC) ▲GPU 클라우드 서비스(GPUaaS) ▲에지 AI를 중심으로 AI 인프라 구축에 박차를 가하고 있다. 우선 국내 지역 거점에 100㎿ 이상의 전력을 사용하는 하이퍼스케일(초대규모) AI 데이터센터를 시작한다. 장기적으로 그 규모를 GW급 이상으로 확대해 아시아태평양 지역의 AI 데이터센터 허브로 도약하는 것을 목표로 하고 있다. SKT는 SK가 보유한 고효율 차세대 반도체와 액침 냉각 등 에너지 솔루션과 AI 클러스터 운영 역량을 결합해 경제적이고 효율적인 AI 데이터센터를 구축할 수 있다고 설명했다.

SKT는 다음 달 판교에 AIDC 테스트 베드를 열 예정이다. 이곳에는 엔비디아 최신 칩과 SK하이닉스의 고대역폭메모리(HBM), 첨단 AI 반도체와 차세대 액체 냉각 솔루션, GPU 가상화 솔루션, AI 에너지 최적화 기술이 도입된다.

SKT는 장기적으로 GW급 AI 데이터센터를 통해 50조원 이상의 신규 투자 유치, 55만명 이상의 고용 창출, 175조원 이상의 경제적 효과를 기대한다. 이를 통해 지역의 AI 첨단 산업 육성에 기여할 계획이다. 또 수도권에 위치한 가산 데이터센터를 AIDC로 전환해 클라우드 형태로 GPU를 제공하는 GPUaaS 서비스를 출시한다. 미국의 GPUaaS 기업 람다와 협력해 다음 달부터 엔비디아의 AI 칩 H100 기반 서비스를 시작하고 내년 3월에는 국내 최초로 H200 칩을 도입해 점진적으로 물량을 확대할 예정이다. 이를 통해 기업들이 GPU를 직접 구매하지 않고도 저비용으로 AI 서비스를 개발할 수 있도록 지원할 방침이다.

내년부터 1000억원을 투자해 리벨리온의 신경망 처리장치(NPU)와 SK하이닉스의 HBM 등 파트너사들의 AIDC 솔루션을 결합한 ‘한국형 소버린 AI’를 구축한다. SKT는 국내 최대 규모의 NPU 팜(Farm)을 조성해 공공 영역뿐만 아니라 민간에서의 AI 기술 생태계 확산에 집중한다.

통신 인프라를 활용해 엣지 AI를 도입한다. 이는 AIDC와 온디바이스 AI 사이 간극을 메우는 기술로 AIDC 대비 저지연, 보안 및 개인정보 보호 측면에서 유리하고 온디바이스 AI 대비 대규모 AI 연산이 가능하다는 게 특징이다.

SKT는 글로벌 파트너사들과 함꼐 통신 인프라를 활용한 AIDC 구축 및 맞춤형 서버 개발을 진행하고 있다. 국내 기업들과는 헬스케어, AI 로봇, AI CCTV 등 6개 영역에서 AI 특화 서비스 발굴을 위한 실증사업(PoC)를 추진 중이다.

이후 국내외 AI 기업들과 협력해 AI 반도체와 데이터센터, 에너지 솔루션이 결합된 AIDC 토탈 솔루션을 개발해 글로벌 시장에 진출할 계획이다.

유 CEO는 "지금까지 통신 인프라는 속도와 용량 싸움이었지만 이제는 네트워크 진화의 패러다임이 변화해야 한다"며 "향후 6G는 통신과 AI가 융합된 차세대 AI 인프라로 진화할 것"이라고 강조했다.

황서율 기자 chestnut@asiae.co.kr