개인정보위, 스타트업 오픈소스 AI 개발 지원…"리스크 최소화"

개인정보위, AI 스타트업 간담회
'생성형 AI 도입·활용 안내서' 발간 예정

개인정보보호위원회가 국내 오픈소스 인공지능(AI) 생태계 지원에 나선다. 국내 AI 기업들에 오픈소스 AI 모델이 새로운 기회가 될 수 있다는 진단이 나오면서다.

고학수 개인정보위원장은 24일 오후 서울 강남구 스타트업얼라이언스 엔스페이스(&Space)에서 인공지능(AI) 스타트업 관계자들을 만나 "오픈소스의 이점이 한국 시장에서 충분히 발휘되고 혁신적인 서비스 창출로 이어지도록 지원하겠다"라고 밝혔다.

고학수 개인정보보호위원회 위원장이 3월 24일 오후 서울 강남구 스타트업얼라이언스에서 개최된 인공지능 스타트업 간담회에서 인사말을 하고 있다. 개인정보보호위원회 제공

오픈소스는 프로그래밍 소스코드를 공개해 누구나 새로운 개발에 이를 활용할 수 있는 형태를 뜻한다. 오픈소스 AI 모델은 비용 부담을 줄이면서도 고성능 AI 모델에 누구나 접근할 수 있다. 작동 원리와 설계 방식, 알고리즘 등이 모두 공개돼 있어서다. 메타의 '라마(LLaMA)'나 딥시크의 V3, R1 등이 오픈소스 모델에 해당한다.

오픈소스 모델의 기술력이 발전하면서 AI 스타트업의 비용 효율을 높여준다는 설명이다. 하주영 스캐터랩 변호사는 "거대언어모델(LLM) 개발에 필요한 비용이 너무 크고, 이미 고성능 오픈소스 모델이 많이 나와 역설적으로 개발 효능도 크지 않다"면서 "오픈소스 AI 모델들이 폐쇄형 모델을 따라잡는 흐름이 계속될 것"이라고 내다봤다.

대규모 AI 인프라는 부족하지만, 양질의 데이터가 많고 우수한 AI 인력을 보유한 우리나라에 오픈소스 모델이 기회가 될 수 있다는 게 개인정보위의 설명이다.

실제로 스타트업 업계를 중심으로 오픈소스 AI 모델의 활용이 늘고 있다. 개인정보위가 진행한 간이 설문조사에 따르면 10개 기업 중 9개 기업에서 내부 연구나 성능개선 응용 서비스를 위해 오픈소스 모델을 활용한 경험이 있다고 답했다. 10곳 중 6곳은 오픈소스 모델을 자체 보유한 이용자 데이터로 추가 학습하거나, 검색증강생성(RAG)을 통해 성능 개선에 활용한다고 답했다. 검색증강생성은 LLM의 성능 개선을 위해 외부 데이터베이스 등을 검색, 정확하면서도 최신화된 답변을 출력할 수 있도록 하는 기술이다.

다만 추가학습을 거쳐 상용화하는 과정에서 개인정보 처리가 이뤄질 수 있어 주의해야 한다. 기업 입장에서도 오픈소스 모델 활용 과정에서 개인정보 처리 우려가 있다.

실제로 중국의 딥시크는 이용자의 개인정보를 광범위하게 수집해 명확한 기한 없이 보관하면서 논란을 불러일으켰다. 이후 개인정보위는 협의를 거쳐 딥시크 앱의 국내 신규 다운로드를 중단했다. 고 위원장은 이날 인사말을 통해 "개인정보위는 딥시크 측과 소통하면서 개인정보 불안요소를 최소화하기 위해 협력하고 있다"고 밝히기도 했다.

임정환 모레 AI 사업 총괄은 "오픈소스 모델을 만드는 데 어떤 종류의 데이터가 사용됐고 어떻게 주의를 기울여야 하는지가 강조됐으면 한다"면서 "정부 기관에서 내놓는 적당한 정도의 규제가 있어야 한다는 필요성도 느끼고 있다"고 말했다.

개인정보위는 '원칙 기반 규율'에서 구체적 데이터 처리 기준을 제시한 사례를 소개했다. 데이터 활용 장벽 해소를 위해 최근 제3차 국가인공지능위원회를 통해 발표한 'AI 데이터 확충 및 개방 확대 방안'의 주요 내용도 설명했다.

이어서 진행된 자유 토론에서 참가 기업들은 이용자 데이터를 AI 개발에 활용하는 경우 발생하는 법적 불확실성 문제가 있다고 말했다. 토론 과정에서는 ▲적법한 이용자 데이터 활용을 위한 명확한 법적 기준 안내 ▲익명·가명 데이터 처리를 위한 구체적 방법론 ▲비식별데이터에 대한 재식별 평가 기준 마련과 같은 건의 사항이 제시됐다.

개인정보위는 이번 간담회 결과를 바탕으로 중소기업과 스타트업에 실질적인 도움이 될 수 있는 개인정보 관점에서의 '생성형 AI 도입·활용 안내서'를 마련할 계획이다.

고 위원장은 "우리나라의 경쟁력 있는 AI 혁신 생태계 발전을 위해서는 오픈소스 이점을 최대한 활용할 필요가 있다"면서 "국내 기관과 기업에서 오픈소스 AI를 도입 및 활용하는 과정에서 AI·데이터 처리와 관련된 리스크 요인이 최소화될 수 있도록 중소·스타트업 업계와 긴밀히 협력해 나가겠다"고 밝혔다.

고학수 개인정보보호위원회 위원장(앞줄 오른쪽 네번째)이 24일 오후 서울 강남구 스타트업얼라이언스에서 개최된 인공지능 스타트업 간담회 참석자들과 기념 촬영을 하고 있다. 개인정보보호위원회 제공

이명환 기자 lifehwan@asiae.co.kr