본문 바로가기
bar_progress

글자크기 설정

닫기

AI도 가성비 시대…LLM가고 SLM 뜬다

시계아이콘01분 02초 소요
숏뉴스
숏 뉴스 AI 요약 기술은 핵심만 전달합니다. 전체 내용의 이해를 위해 기사 본문을 확인해주세요.

불러오는 중...

닫기
뉴스듣기 글자크기

매개변수 1000억개 넘는 대형언어모델
SLM은 100억개 미만으로 저비용 고효율
파이3, 라마3, 젬마2B 등 대표적

AI도 가성비 시대…LLM가고 SLM 뜬다
AD

생성형 인공지능(AI) 개발에 뛰어든 기업들이 최근 소형언어모델(SLM)로 눈을 돌리고 있다. 거대언어모델(LLM) 보다 더 적은 비용으로도 비슷한 성능을 냄으로써 가성비를 극대화하려는 움직임이다.


18일(현지시간) 주요 외신에 따르면 마이크로소프트(MS), 메타플랫폼, 구글과 같은 빅테크(대형 정보기술 기업)들은 LLM보다 더 적은 매개변수(파라미터)를 투입해 준수한 성능을 내는 ‘작지만 강한’ AI 모델들을 잇달아 선보이고 있다. 매개변수란 AI가 연산 과정에서 고려하는 다양한 변수로, 인간 두뇌의 시냅스에 해당한다. 매개변수가 많을수록 AI의 성능도 좋아진다.


AI도 가성비 시대…LLM가고 SLM 뜬다 [이미지출처=로이터연합뉴스]

MS는 지난달 SLM 모델 ‘파이-3 미니’를 공개했다. 파이-3 미니의 매개변수는 38억개로 오픈AI GPT-3.5(1750억개)의 약 50분의 1 수준이다. 루이스 바가스 MS AI 담당 부사장은 "파이-3 미니의 추론 비용은 비슷한 기능을 가진 다른 모델과 비교해 10분의 1 수준으로 저렴하다"고 설명했다.


앞서 메타도 매개변수 80억개짜리 ‘라마-3’를 출시하며 생성형 AI 소형화 노선을 타고 있다. 메타는 전작인 라마-2부터 모델들을 오픈소스화해 수많은 변형 라마 모델들을 낳고 있다. 구글도 지난 2월 매개변수가 20억개에 불과한 젬마 2B를 출시하며 고효율에 집중하는 모습을 보여줬다.


이처럼 SLM이 최근 빅테크들의 주목을 받는 이유는 저렴한 가동 비용 때문이다. 지난주 공개된 오픈AI의 최신 AI 모델 GPT-4o(옴니)와 구글의 제미나이 1.5프로의 경우 매개변수가 1조개를 상회할 것으로 추정되는 대표적인 LLM이다. 두 모델의 토큰 100만개당 단위 비용은 각각 5달러, 7달러로 라마-3(0.2달러)보다 25배 이상 비싸다. 토큰은 언어모델이 인식하는 문자 데이터 단위를 의미한다.


저렴한 비용에 더해 온비다이스 이용이 가능하다는 점도 SLM의 장점으로 꼽힌다. SLM은 데이터를 클라우드로 보내는 대신 장치에서 로컬로 작업을 처리할 수 있어 개인정보 보호에도 탁월하다. 대표적으로 애플은 내달 열리는 연례 개발자 행사에서 오픈AI의 챗GPT를 탑재한 아이폰을 공개할 예정인 것으로 전해졌다.


AD

은행 자문 로펌 애들쇼고다드의 샬럿 마셜 변호사는 "우리 로펌을 찾는 많은 고객이 생성형 AI 제품을 채택할 때 중요하게 고려한 것 중 하나가 데이터 처리 및 보안에 대한 규제 준수였다"며 "SLM이 떠오르면서 기업들이 법적 문제와 비용 부담에서 벗어나게 될 기회가 생겼다"고 진단했다.




김진영 기자 camp@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>

AD
AD

당신이 궁금할 이슈 콘텐츠

AD

맞춤콘텐츠

AD

실시간 핫이슈

AD

놓칠 수 없는 이슈 픽

  • 25.04.2706:40
    "10대에게 노출된 채팅 앱…성범죄 이어져도 플랫폼 처벌 규정 약해"
    "10대에게 노출된 채팅 앱…성범죄 이어져도 플랫폼 처벌 규정 약해"

    편집자주아동·청소년 성매매는 성 착취로 규정한다. 성적 자기 결정권이 미성숙한 아동·청소년을 성적 동의, 계약의 주체로 보기 어렵기 때문이다. 소셜미디어, 메신저, 익명 기반 플랫폼 등을 통해 온라인에서 친밀감을 빠르게 형성하는 아동·청소년은 예전보다 더 쉽게 성 착취 범죄에 휘말린다. 한국여성인권진흥원 중앙디지털성범죄피해자지원센터에 따르면 지난해 디지털 성범죄 피해로 지원받은 4명 중 1명은 10대(27.8%)

  • 25.04.2706:30
    "15세 이하 여아만" 성 상품화 논란…"오해" 해명에도 시끌
    "15세 이하 여아만" 성 상품화 논란…"오해" 해명에도 시끌

    편집자주아동·청소년 성매매는 성착취로 규정한다. 성적 자기결정권이 미성숙한 아동·청소년을 성적 동의, 계약의 주체로 보기 어렵기 때문이다. 소셜미디어, 메신저, 익명 기반 플랫폼 등을 통해 온라인에서 친밀감을 빠르게 형성하는 아동·청소년은 예전보다 더 쉽게 성착취 범죄에 휘말린다. 한국여성인권진흥원 중앙디지털성범죄피해자지원센터에 따르면 지난해 디지털 성범죄 피해로 지원받은 4명 중 1명은 10대(27.8%)였다

  • 25.04.2606:50
    매일 밤 5명이 돌아가며 보초…성착취 후유증에 자해도 심각
    매일 밤 5명이 돌아가며 보초…성착취 후유증에 자해도 심각

    편집자주아동·청소년 성매매는 성착취로 규정한다. 성적 자기결정권이 미성숙한 아동·청소년을 성적 동의, 계약의 주체로 보기 어렵기 때문이다. 소셜미디어, 메신저, 익명 기반 플랫폼 등을 통해 온라인에서 친밀감을 빠르게 형성하는 아동·청소년은 예전보다 더 쉽게 성착취 범죄에 휘말린다. 한국여성인권진흥원 중앙디지털성범죄피해자지원센터에 따르면 지난해 디지털 성범죄 피해로 지원받은 4명 중 1명은 10대(27.8%)였다

  • 25.04.2606:40
    성착취 피해 청소년 자립지원금 0원…피해자 느는데 지원 시설은 감소중[성착취, 아웃]
    성착취 피해 청소년 자립지원금 0원…피해자 느는데 지원 시설은 감소중[성착취, 아웃]

    편집자주아동·청소년 성매매는 성착취로 규정한다. 성적 자기결정권이 미성숙한 아동·청소년을 성적 동의, 계약의 주체로 보기 어렵기 때문이다. 소셜미디어, 메신저, 익명 기반 플랫폼 등을 통해 온라인에서 친밀감을 빠르게 형성하는 아동·청소년은 예전보다 더 쉽게 성착취 범죄에 휘말린다. 한국여성인권진흥원 중앙디지털성범죄피해자지원센터에 따르면 지난해 디지털 성범죄 피해로 지원받은 4명 중 1명은 10대(27.8%)였다

  • 25.04.2606:30
     아동·청소년 성매수 범죄 5년간 3배 늘어…1510건 적발[성착취, 아웃]
    아동·청소년 성매수 범죄 5년간 3배 늘어…1510건 적발[성착취, 아웃]

    편집자주아동·청소년 성매매는 성착취로 규정한다. 성적 자기결정권이 미성숙한 아동·청소년을 성적 동의, 계약의 주체로 보기 어렵기 때문이다. 소셜미디어, 메신저, 익명 기반 플랫폼 등을 통해 온라인에서 친밀감을 빠르게 형성하는 아동·청소년은 예전보다 더 쉽게 성착취 범죄에 휘말린다. 한국여성인권진흥원 중앙디지털성범죄피해자지원센터에 따르면 지난해 디지털 성범죄 피해로 지원받은 4명 중 1명은 10대(27.8%)였다

  • 25.04.2906:20
    지난해 보험사기 5건 중 4건은 결론 안나…"컨트롤타워 설치해야"
    지난해 보험사기 5건 중 4건은 결론 안나…"컨트롤타워 설치해야"

    지난해 8월 보험사기방지 특별법 제정 8년 만에 처음으로 개정안이 통과됐다. 업계는 보험사기가 줄어들 것으로 기대했다. 하지만 결과는 '보험사기 규모 역대 최대'. 법과 제도를 보완해야 한다는 신호다. 전문가들은 보험사기를 효과적으로 막기 위해서는 범정부 차원의 컨트롤타워가 반드시 필요하다고 입을 모은다. 각 기관이 따로 움직이는 현행 구조로는 효율적 대응이 어렵고 보험사기 예방력과 수사력에도 한계가 있다는 지

  • 25.04.2906:20
     "3년 만에 복귀해 422억 또 사기 쳤다"…솜방망이 처벌에 보험사기 악순환
    "3년 만에 복귀해 422억 또 사기 쳤다"…솜방망이 처벌에 보험사기 악순환

    수많은 보험사기 사건의 중심에는 보험설계사, 의료인, 정비업자 등 '전문인'들이 있었다. 이들은 자신들의 전문지식과 현행법, 보험계약의 약한 고리를 교묘히 파고들어 부당이득을 챙겼다. 허위 진단서 작성, 가짜 사고 조작, 과장 청구 등 다양한 수법으로 보험사와 수사기관까지 속수무책으로 당했다. 전문가들은 이들 전문인을 겨냥한 제재와 처벌 수위를 강화해야 한다고 입을 모았다. 사기→낮은 처벌→재범이라는 악순환을

  • 25.04.2906:20
    '낸 보험료가 얼만데, 이번 한 번만' 국민 인식 이젠 달라져야
    '낸 보험료가 얼만데, 이번 한 번만' 국민 인식 이젠 달라져야

    "지금까지 낸 보험료가 얼만데, 이번 딱 한 번 그렇게 타 먹은 거 가지고 왜 그러나." 보험사기 조사·수사조직이 보험사기꾼으로부터 가장 많이 듣는 말이다. 일부는 불법을 저지르고도 돈 많은 보험사들이 보험금을 내주기 싫어서 자신을 사기꾼으로 몬다고 윽박지르기도 한다. 수사기관엔 정부가 왜 보험사 편만 드느냐며 악의적인 민원으로 보복하는 경우도 있다. 그동안 각계 전문가들이 보험사기를 막기 위한 여러 대책을 제

  • 25.04.2806:20
    보험사기꾼 1인2역 연기하다 형사출신 SIU에 덜미
    보험사기꾼 1인2역 연기하다 형사출신 SIU에 덜미

    보험사기를 잡는 최전선엔 SIU(보험사기특별조사팀)가 있다. 이들은 각 보험사가 운영하는 별동조직으로 인력 상당수가 전직 형사출신이다. 보험사기를 사전에 차단하거나 수사기관에 의뢰하는 방식으로 국민들의 보험료를 낮추는 데 기여하고 있다. 보험사기와의 조용한 전쟁터, 그 중심에 있는 SIU의 움직임을 아시아경제가 밀착 취재했다. 그들의 눈으로 본 현장은 치밀했고, 교묘했다. SIU가 보험사기를 조사하는 과정의 출발

  • 25.04.2806:20
    보험사기 조사전문가 67% "강력한 처벌과 실형 중심 제재 필요"
    보험사기 조사전문가 67% "강력한 처벌과 실형 중심 제재 필요"

    현장에서 만난 SIU(보험사기특별조사팀)는 보험사기를 적발하는 데 많은 어려움을 호소했다. 개인정보 관련 법령 제한, 수사기관의 소극적 공조, 낮은 처벌수위 등이 주요 문제라고 봤다. 눈으로 보험사기가 벌어지는 현장을 목격하고도 권한이 없어 국민들이 쌓아둔 보험금을 우선 내줘야 할 때 가장 안타깝다고 했다. 아시아경제는 보험사기를 막기 위해 현장에서 분투하고 있는 SIU의 목소리를 직접 듣고, 제도적 미비점 등을

  • 25.04.2908:10
    총통 취임 1년도 채 안됐는데…탄핵 바람 부는 대만
    총통 취임 1년도 채 안됐는데…탄핵 바람 부는 대만

    대만 야권에서 라이칭더 총통에 대한 탄핵을 추진하면서 반정부 시위가 확산되고 있다. 대만의 정치 불안이 심화되는 가운데, 대만 제1야당인 국민당은 라이칭더 총통이 취임한 지 1년이 되는 오는 5월20일부터 탄핵을 추진하겠다고 으름장을 놓았다. 대만 총통 파면법에 따르면 탄핵은 최소 임기 1년이 지난 총통에게만 할 수 있어, 2023년 5월20일 취임한 라이 총통에 대한 탄핵은 다음 달 20일부터 가능하다. 현재 야당 주도로

  • 25.04.2207:20
    '1367억' 부동산 없어도 재산 1위 안철수, 강남 아파트 김동연·한동훈·홍준표[AK라디오]
    '1367억' 부동산 없어도 재산 1위 안철수, 강남 아파트 김동연·한동훈·홍준표[AK라디오]

    편집자주대선이 본격화했다. 국민의힘과 더불어민주당은 한창 경선을 하고 있다. 국민의힘은 5월 3일 후보를 결정하고, 민주당은 이르면 이달 27일 후보를 결정한다. 대선주자들의 다양한 면모를 알아보기 위해 ①대선주자와 종교 ②대선주자와 병역에 이어 ③대선주자와 재산에 대해 알아보았다. 아시아경제 유튜브 채널 AK라디오가 대선주자들의 재산을 분석한 결과 대선 후보들의 재산은 대부분 아파트와 예금으로 구성돼 있었다

  • 25.04.2107:20
    유종일 "이재명 '성장 전략 짜 달라' 전화"
    유종일 "이재명 '성장 전략 짜 달라' 전화"

    유종일 '성장과 통합' 상임공동대표가 아시아경제 유튜브 채널 'AK라디오'에 출연했다. 지난 18일 오전 9시 서울 중구 충무로 아시아경제 스튜디오에서 1시간20분 동안 진행된 인터뷰에서 유 대표는 "시장 원리를 거스르면 목표 달성도 못 하고 부작용만 커진다"고 말했다. 문재인 정부의 탈원전 정책을 비판하며 "원자력은 꼭 필요하다. 가급적 빨리 신규 원전을 건설해야 한다"고 소신을 밝혔다. 또 "연공서열제를 개혁해야 정년

  • 25.04.1807:39
    양기대 "통합 필요한 세력 진정성 있게 껴안아야"
    양기대 "통합 필요한 세력 진정성 있게 껴안아야"

    민주당 비명(비이재명)계 전직 의원들의 모임인 '초일회' 간사인 양기대 전 국회의원이 아시아경제 유튜브 채널 'AK라디오'에 출연했다. '희망과 대안 포럼' 이사장이기도 한 양 전 의원은 "정권 교체가 중요하다"며 "제3세력 태동 가능성은 사그라들었다"고 단언했다. 그러면서 "누가 정권을 잡든 대선 이후 경제적 불평등 등에 대한 깊은 통합의 정신을 발휘해야 한다"고 강조했다. 인터뷰는 17일 오전 9시부터 10시까지 서울 중

  • 25.04.1308:00
    테슬라 폭락에 백악관 나간다는 머스크…트럼프와 멀어지나
    테슬라 폭락에 백악관 나간다는 머스크…트럼프와 멀어지나

    도널드 트럼프 대통령과 일론 머스크 테슬라 CEO 사이에 갈등의 골이 깊어지고 있다. 트럼프 대통령의 최측근이자 정부효율부 수장인 일론 머스크가 조만간 정부를 떠날 수 있다는 소식이 전해졌다. 이는 트럼프 대통령이 직접 언급한 내용으로, 지난 4일 기자회견에서 "머스크도 떠날 시점이 올 것이다. 아마 몇 달 후가 될 것 같다"라고 발언하면서 머스크의 조기 사임론이 확산되고 있다. 특히 주목할 점은 머스크가 이탈리아 극


다양한 채널에서 아시아경제를 만나보세요!

위로가기