"카카오 AI 챗봇 '카나나' 데이터, 오픈AI가 저장·학습 않는다"

개인정보위, 카카오 AI '카나나' 사전적정성 검토
모델 학습 과정서 암호화 등 보안 조치
대화 데이터, 카카오 별도 서버 저장…오픈AI엔 저장 안 돼
오픈AI 모델엔 개인정보 가려진 데이터 전달

‘인공지능(AI) 비서’를 지향하는 카카오 AI 서비스 ‘카나나’가 개인정보 보호를 위한 안전장치를 마련한다. AI 모델 학습 과정에서 개인정보 유출을 방지하고, 카나나와 제휴한 오픈AI가 카나나를 통해 데이터 학습을 하지 못하도록 조치했다. 개인정보보호위원회는 이 같은 내용을 담은 ‘카나나’에 관한 사전적정성 검토 결과를 심의·의결했다고 13일 밝혔다.

챗GPT 개발사 오픈AI 창업자인 샘 올트먼 최고경영자(CEO)와 정신아 카카오 대표가 4일 서울 중구 플라자호텔에서 열린 '카카오 미디어데이'에 참석해 사진촬영 하고 있다. 강진형 기자

카카오는 지난해 12월 개인정보위에 카나나에 대한 사전적정성 검토를 신청했다. 카나나가 개인정보 보호법을 준수하는 동시에 개인 사생활을 보호하며 설계·운영되도록 하기 위해서다. 올해 상반기 중 출시 예정인 카나나는 별도 애플리케이션으로 선보인다. 이용자가 어떤 질문을 했을 때 카나나에서 나눴던 대화의 맥락에서 주요 정보를 기억해 최적화된 답변을 제시하는 게 특징이다.

카카오는 안전장치 역할을 하는 AI 모델이 카나나에 탑재될 예정이라고 강조했다. 이용자가 다른 사람의 개인정보를 캐내기 위해 유도 질문을 하면 답변을 차단하거나, AI 모델이 생성하는 답변을 통해 타인의 전화번호, 이메일 등이 노출되는 일이 없도록 자동 검수할 계획이다.

카나나는 카카오가 자체 개발한 대형언어모델(LLM)을 주로 활용할 예정이지만, 오픈AI의 모델 역시 보완적으로 활용하게 된다. 그러나 오픈AI 측에는 카나나 대화방 내 데이터가 저장되지 않는다. 대화 데이터 중 고유식별정보나 계좌·카드번호 등 민감한 개인정보가 포함되면 카카오 자체 LLM에서 처리한다. 오픈AI의 모델을 활용해 개인정보가 포함된 대화 데이터를 처리하는 경우, 개인정보 부분을 암호화하기로 했다.

이용자와의 대화 데이터를 카카오 자체 모델에서 학습할 때도 사용자로부터 별도의 동의를 구하는 ‘옵트아웃’ 조건도 두기로 했다. 옵트아웃은 사용자가 입력한 정보를 생성형 AI 학습에 활용하지 않도록 정보 수집을 거부하는 것을 뜻한다. 따라서 카나나 모델 학습에 자신의 데이터가 학습되기를 원하지 않는 이용자는 동의하지 않을 수 있다.

내부 관리체계 역시 강화한다. 카카오의 개인정보 보호책임자(CPO)가 카나나 개인정보 리스크 관리체계를 구축·운영한다. 리스크 관리 계획과 실행 내역을 정기적으로 이사회에 보고하기로 했다. 개인정보위는 카나나 서비스가 정식 출시되면 카카오가 사전적정성 검토 방안을 실제 이행하고 있는지 점검할 예정이다.

이명환 기자 lifehwan@asiae.co.kr