[2024 미래기업포럼]김동환 포티투마루 대표 "고비용 초거대 AI…원가도 고민해야"

22일 아시아미래기업포럼 기조연설
'AX 시대 초거대 AI 활용 전략' 발표

김동환 포티투마루 대표(사진)는 "기업이 초거대 인공지능(AI)을 도입할 때 질문 하나당 발생하는 원가도 고민해야 한다"고 했다.

[2024 미래기업포럼]김동환 포티투마루 대표 "고비용 초거대 AI…원가도 고민해야"

김동환 포티투마루 대표가 22일 서울 중구 롯데호텔에서 아시아경제 주최로 열린 2024 아시아미래기업포럼에서 기조강연을 하고 있다. 사진=김현민 기자 kimhyun81@

김 대표는 22일 서울 소공동 롯데호텔에서 열린 ‘아시아미래기업포럼’ 기조강연에서 거대언어모델(LLM) 도입 시 기업이 고려해야 할 점 중 하나인 고비용 문제를 꼽으며 이렇게 말했다. 그는 ‘AX(AI 전환) 시대 초거대 AI 활용 전략’에 대해 발표하면서 고려해야 할 점으로 환각 현상(할루시네이션), 보안, 비용 문제를 꼽았다. 그는 "챗GPT가 원가를 공개하지 않고 있지만, 현재는 질문 하나당 드는 비용보다 더 적은 값을 이용자로부터 받는 것으로 안다"며 "나중에는 질문당 원가를 내야 하는 때가 올 수도 있다"고 덧붙였다.

포티투마루는 방대한 비정형 데이터에서 하나의 정답을 도출해내는 QA(Question Answering) 플랫폼 개발 AI 스타트업이다. 스탠퍼드대가 주관하는 MRC(기계독해) 경진대회에서 구글 AI팀과 공동 1위를 달성했으며 마이크로소프트(MS)가 주관한 언어이해 경진대회 ‘GLGE’에서도 1위를 차지하는 등 글로벌 경진대회에서 기술력을 인정받았다.

그는 LLM의 문제점을 해결해 상용화할 수 있는 요소로 검색증강생성(RAG) 기술을 언급했다. RAG는 기존 데이터로 학습한 모델이 최신 정보를 반영하지 못하는 상황을 맞춤형 데이터베이스로 보완해 모델의 정확도와 품질을 높인다. 이는 LLM의 단점인 환각 현상을 줄이는 역할을 한다. 포티투마루는 자체 기술인 ‘RAG42’를 보유하고 있어 LLM 모델이 필요로 하는 최적의 정보만 도출, 정제하며 산업군별 도메인 특화 엔진 개발이 가능하도록 지원한다.

단점을 보완할 수 있는 또 다른 대안으로 소형거대언어모델(sLLM)도 언급했다. 포티투마루는 자체 기술 ‘LLM42’로 기업 특화 모드를 지원해 LLM의 환각 현상을 보완한다고 했다. 포티투마루는 QA 및 TA(Text Analytics), AI 챗봇, 스마트 디바이스 분야 비즈니스를 통해 상용화하고 있다. LG유플러스, 네이버클라우드 등과 협업하고 있으며 전자, 통신, 금융, 자동차 등 전 산업 분야로 사업을 확장 중이다. 이날 가장 먼저 소개한 포티투마루의 구체적인 상용화 사례는 조선·해양 분야 선박 설계 문서 작업 기능이다. 김 대표는 "기존엔 작은 선박의 설계문서 초안 문서를 만드는 데 2~3개월이 걸리지만, AI에 이를 맡겼더니 일주일 안에 만들어내고 있다"며 "2~3년 정도 지나면 최종 문서도 AI가 만들 수 있지 않을까 기대를 가지고 연구하고 있다"고 했다.

김 대표는 이 외에 자동차 고장에 대한 정비를 추천하는 ‘지능형 정비 추천 플랫폼’, 보험 설계사 및 상담원을 지원하는 ‘AI 어시스턴트’, 법무 계약서 작성·비교·검토 자동화 솔루션, 도서·논문·특허 요약 서비스, LG유플러스의 휴대폰 및 요금제 세일즈용 Q&A 챗봇 등을 소개해 눈길을 끌었다.