SKT, 한국어 특화 에이닷 LLM 오픈소스 공개…"기업 활용 가능"

"GPT-4o보다 높은 점수" 에이닷 엑스 4.0
中 알리바바 큐원 2.5에 한국어 데이터 학습

SK텔레콤은 한국어 특화 거대언어모델(LLM) 에이닷 엑스(A.X) 4.0을 오픈소스로 공개했다고 3일 밝혔다. SKT는 이날 오전 세계적인 오픈소스 커뮤니티 허깅페이스를 통해 A.X 4.0의 표준 모델과 경량 모델 2종을 공개했다.

SK텔레콤은 한국어 특화 LLM인 에이닷 엑스(A.X) 4.0을 오픈소스로 공개했다고 3일 밝혔다. 사진은 A.X 4.0의 대규모 학습을 진행한 SKT 자체 구축 슈퍼컴퓨터 '타이탄'. SKT 제공

이번에 공개한 A.X 4.0은 한국어 처리 효율성은 물론 데이터 보안을 고려한 설계, 그리고 로컬 환경에서의 운영 가능성 등이 강점이다. 중국 알리바바의 오픈소스 LLM '큐원 2.5'에 한국어 데이터를 추가로 학습시켰다.

SKT는 A.X 4.0 자체 테스트 결과 같은 한국어 문장을 입력했을 때 GPT-4o보다 A.X 4.0이 33%가량 높은 토큰 효율을 기록했다며, 높은 정보 처리용량에 경제성을 갖췄다고 밝혔다.

A.X 4.0은 한국어 능력 평가 벤치마크(KMMLU)에서 78.3점을 기록해 GPT-4o(72.5점)보다 높았다. 한국어 및 한국 문화 벤치마크(CLIcK)에서도 83.5점을 획득해 GPT-4o(80.2점)보다 더 높은 한국 문화 이해도를 입증했다.

이와 함께 SKT는 A.X 4.0을 클라우드가 아닌 기업 내부 서버에 직접 설치해 사용할 수 있는 온프레미스 방식으로 제공해 기업들이 데이터 보안에 대한 걱정을 덜 수 있도록 서비스할 계획이다. 표준 모델은 720억개, 경량 모델은 70억개의 매개변수를 갖추고 있어, 이용자들이 목적에 맞춰 선택적으로 이용할 수 있도록 했다.

SKT는 이미 A.X 4.0을 지난 5월 에이닷 통화 요약에 적용해 활용하고 있으며, 추후 자사는 물론 SK그룹 내 다양한 서비스에 적용할 계획이다.

SKT가 이번에 선보인 모델로 기업들은 파생형 모델을 개발할 수 있고 연구 분야에서도 활용할 수 있다. 이를 통해 국내 기업들이 자체 환경에서 AI 기술을 보다 쉽게 활용할 수 있는 새로운 선택지를 제공해 나갈 예정이다.

SKT는 이번 A.X 4.0 지식형 모델의 오픈소스 공개와 동시에 추론형 모델의 발표도 앞두고 있다. SKT는 이달 중으로 수학 문제 해결과 코드 개발 능력이 강화된 추론형 모델을 공개하고, 이미지와 텍스트를 동시에 이해하고 처리할 수 있는 수준까지 모델을 업데이트할 계획이다.

또한 소버린 AI 관점에서 A.X 3.0에 적용한 '프롬 스크래치' 방식도 병행해 개발을 진행하고 있으며, 후속 모델도 순차적으로 공개할 예정이다. 프롬 스크래치란 모델의 맨 첫 단계부터 모두 직접 구축하는 방식을 말한다.

김지원 SK텔레콤 AI모델 랩장은 "SK텔레콤의 다양한 서비스를 고도화하고, 기업 시장에서 한국어 특화 LLM으로 국내 비즈니스 환경에 최적화된 모델이 될 수 있도록 지속적인 기술 개발을 추진할 계획"이라고 밝혔다.

김보경 기자 bkly477@asiae.co.kr