[K-AI 도전]②SKT "GPU 하루 1억원 태우는 도전…실용성 앞세운 AI"

[인터뷰]김태윤 SK텔레콤 파운데이션 모델 담당
정부 지원 없이 자체 GPU로 초기 경쟁전 돌입
음성·오디오·에이전트 통합 모델 목표

김태윤 SK텔레콤 파운데이션 모델 담당. 그는 올해부터 파운데이션 모델 부서를 이끌고 있다. 사진=SKT

"막상 AI 모델을 만들어보면 굉장한 압박감이 들어요. GPU(그래픽처리장치)를 엄청나게 많이 써서 만들기 때문에 하루에 1억원씩 든다고 보면 됩니다."

과학기술정보통신부의 '독자 AI 파운데이션 모델 프로젝트' 정예팀에 선정된 SK텔레콤 컨소시엄을 이끄는 김태윤 파운데이션모델 담당(부사장)은 지난 6일 서울 을지로 페럼타워에서 아시아경제와 만나 이렇게 말했다. 그는 "세계 최고 수준을 단기간에 뛰어넘는 것은 현실적으로 어렵다"면서도 "엔지니어로서는 기회"라며 도전 의지를 드러냈다.

지난 4일 과기정통부는 총 15개 컨소시엄 중 SKT를 포함한 5개 컨소시엄만을 선정했다. 이들은 6개월마다 성과 평가를 받아 최종 1~2개 팀만 살아남는 극한 경쟁에 돌입한다. 김 부사장은 "지금 이런 과제를 하지 않으면 1~2년 안에 우리나라가 대형 언어모델이라는 AI의 근간에서 기술 경쟁력을 잃게 될 것"이라고 강조했다. 그는 "빠르게 따라잡을 수 있는 영역이 있다. 실제 사용 면에서 우리가 만든 게 좀 낫다는 부분들을 조금씩 드러나게 하겠다"고도 했다.

김 부사장에게 선정 소감을 묻자 "고생 끝에 고생"이라는 답이 돌아왔다. "이제 시작"이라는 그의 표정엔 부담과 기대가 교차했다. 하루 1억원씩 드는 GPU 비용, 6개월마다 받는 평가, 빅테크와의 경쟁 등 넘어야 할 산은 높지만, 한국이 AI 강국으로 도약할 수 있는지를 가늠할 중요한 시험대가 될 전망이다.

김 부사장은 고려대 전자공학과 박사학위를 받고 LG전자와 조지아텍, 삼성전자를 거쳐 2016년 SKT에 합류한 AI 전문가다. 그는 "이 분야가 워낙 치열해 투트랙 전략을 쓰고 있다"고 설명했다. SKT는 처음부터 모델을 개발하는 '에이닷 엑스 3'과 기존 오픈소스를 개선하는 '에이닷 엑스 4'를 동시에 진행 중이다. 이번 정부 과제에서는 '프롬 스크래치(From Scratch)' 방식, 즉 처음부터 만드는 길을 택했다.

목표는 명확하다. 기존 에이닷 엑스 3 모델은 340억(34B) 파라미터의 표준형과 70억(7B) 파라미터의 경량형으로 구성됐는데, 이번에는 "수백B(수천억) 파라미터 규모"로 최소 10배 이상 큰 모델을 만든다는 계획이다.

특히 두 번째 경쟁 라운드까지는 정부의 GPU 지원 없이 자체 자원을 투입한다. 이를 위해 기존 타이탄 클러스터(A100 1500장)와 H100 기반 신형 클러스터 그리고 SKT가 추진 중인 AI 데이터센터 사업 인프라를 활용한다. "GPU가 모자라지는 않을 것"이라는 게 김 부사장의 자신감이다.

SKT의 강점은 이미 검증된 서비스 기반이 있다는 점이다. 자체 AI 서비스 '에이닷'은 사용자 1000만명을 돌파했다. 컨소시엄에 참여한 라이너도 1000만 사용자를 보유하고 있다. 이런 서비스 경험을 바탕으로 한 전략이 '실용성'이다. 김 부사장은 "벤치마크에서 어디를 이겼다는 것보다, 사람들이 직접 써보고 '그거 좋더라'라는 평가를 듣는 게 더 중요하다"고 말했다.

김태윤 SKT 파운데이션 모델 담당이 이끄는 독자 AI 파운데이션 모델 프로젝트의 SKT 컨소시엄은 크래프톤, 포티투닷, 리벨리온, 라이너, 셀렉트스타, 서울대 산학협력단, KAIST가 팀을 이뤘다. 사진=SKT

이를 위해 SKT는 라이너 외에도 서울대, 카이스트, 크래프톤 등과 '풀스택 AI' 컨소시엄을 꾸렸다. 인프라부터 기술 개발, 서비스까지 전 영역을 아우르는 구조라는 의미다. 게임회사 크래프톤은 영상·음성 처리 기술을, 라이너는 실제 서비스 운영 노하우를 제공한다. 김 부사장은 "이번 과제는 단순히 거대언어모델(LLM) 하나를 만드는 게 아니라, 음성·오디오·컴퓨터와 연결된 에이전트까지 통합하는 멀티모달 모델을 목표로 한다"고 강조했다.

정부는 이번 과제 성능 목표를 '최신 글로벌 AI 모델 대비 95% 이상'으로 설정했다. 김 부사장은 "불가능한 수치는 아니다"라고 말했다.

다만 세계 최고들과의 경쟁은 만만치 않다. 오픈AI는 수조원을 투입해 GPT를 개발했고, 구글·메타 등도 천문학적 자금을 쏟아붓고 있다. 김 부사장은 "당장 GPT-5를 이겨야 하는 건 아니다. 다양한 스펙트럼 속에서 각자의 자리를 찾을 것"이라고 했다.

최근 AI 업계에서 화제가 된 중국 '딥시크'만큼의 파급력이 있겠냐는 질문에 대해서는 "이른바 '딥시크 모먼트'(짧은 시간·적은 자원으로 거둔 돌파구)보다는, '브레이크스루 모먼트'(혁신의 전환점을 만드는 순간)를 지향한다"고 답했다. 그는 "딥시크는 1년 반 전부터 엔지니어들 사이에서 유명했던 회사로, 갑자기 나타난 게 아니었다"며 "우선은 세계 수준에 비해 뒤처진 한국의 오픈소스·모델 제작 역량을 단기간에 끌어올리는 것이 현실적인 목표"라고 덧붙였다.

SKT가 그리는 미래는 'AI 일상화'다. 김 부사장은 "AI는 앞으로 인터넷처럼 일상생활에서 꼭 필요한 도구가 될 것"이라고 전망했다. 그는 "SKT 내부에서도 이미 AI를 광범위하게 쓰고 있다"며 "대표적으로 통화 요약 기능은 연간 수백억원의 비용을 절감한다. 그룹 차원에서도 마찬가지로 AI가 신기한 기술을 넘어 필수 기술로 자리 잡고 있다"고 말했다.

SKT는 이런 노하우를 바탕으로 일반 국민이 쉽게 AI를 쓸 수 있도록 하겠다는 계획이다. 그는 "국민이 일상에서 쓰게 되는 AI 기술 속에 우리가 만든 것이 자리 잡길 바란다. 새로운 산업 기회를 만드는 데 일조하고 싶다"고 말했다.

박유진 기자 genie@asiae.co.kr