문채석기자
BC카드는 인공지능(AI) 서비스 개발 생산성과 인프라 운영 효율성을 높이기 위해 엔터프라이즈 급 컨테이너 플랫폼을 도입했다고 13일 밝혔다.
서울 중구 을지로 BC카드 본사 전경. BC카드
엔터프라이즈 급 컨테이너 플랫폼은 다양한 애플리케이션을 효율적으로 개발하고, 안정적으로 운영할 수 있도록 지원하는 통합 관리 시스템을 말한다.
BC카드는 더 복잡해질 AI서비스 운영 환경에 대비하기 위해 레드 햇 오픈시프트와 레드 햇 오픈시프트 AI를 도입했다. 오픈시프트 AI는 BC카드가 국내 최초로 도입했다.
오픈시프트는 앱 배포와 관리를 더 쉽게 하고 다양한 개발 및 운영 도구를 통합해 제공하는 플랫폼이다.
오픈시프트AI는 다수의 그래픽처리장치(GPU) 서버를 효율적으로 자동 관리할 수 있는 게 특징이다. 거대언어모델(LLM)이나 고성능 AI 추론 환경 구축에 특화됐다.
BC카드는 최근 AI를 활용한 신규 가맹점 업종 분류 자동화, 커뮤니티 기반 쇼핑 정보 추천(AI 핫딜), 구매 패턴 기반 상품 추천(리빙플러스) 등 서비스 10여종을 자체 개발해 운영해왔다.
하지만 다양한 AI 프로젝트를 수행하는 과정에서 GPU 사용량이 증가해 학습과 추론 속도, 인프라 효율성을 개선할 필요가 있었다.
오픈시프트 도입을 통해 BC카드는 AI 프로젝트 실험과 검증 속도를 높이고 서비스 안정성과 확장성을 크게 강화할 수 기반을 마련할 수 있게 됐다. 내부 LLM 프로젝트 배포 주기를 단축하고 업무 효율화, 리스크 분석, 내부 지식 검색 등 주요 업무에서 AI 서비스 실용화도 가속화할 수 있게 됐다.
오픈시프트AI는 기존 컨테이너 플랫폼에 AI 개발 및 운영에 특화된 기능과 환경을 추가한 전용 솔루션으로, AI 프로젝트를 보다 효율적이고 체계적으로 수행할 수 있도록 지원한다.
최원석 BC카드 사장은 "오픈시프트AI 도입을 통해 GPU 자원 활용을 최적화하고 LLM 학습 및 추론 환경을 개선함으로써 AI 인프라 운영 안정성과 효율성을 크게 높였다"며 "향후 핵심 업무 영역 전반에서 AI 기술 적용을 확대해 디지털 경쟁력을 지속적으로 강화해 나갈 계획"이라고 말했다.
김경상 한국 레드햇 사장은 "레드햇은 기업이 오픈소스 기술을 활용해 AI를 도입하고 확산할 수 있도록 지원하고 있다"며 "BC카드가 AI 전략을 보다 유연하고 효율적으로 실행하고 비즈니스 가치를 창출하도록 지원해 나갈 계획"이라고 했다.