"딥시크서 대량살상무기·사이버해킹 정보 쉽게 찾는다"

긴급포럼 '딥시크 파장과 미래 전망'
탈옥 가능성 100%, 위험한 답변도 줄줄
中정부, 대화내역으로 '당성' 체크하기도

중국의 인공지능(AI) 모델 딥시크에서 대량살상무기를 만드는 방법이나 사이버해킹을 위한 코드를 어렵지 않게 찾아낼 수 있다는 분석이 나왔다. 중국 정부가 딥시크 이용자의 개인정보를 대량 수집해 정치 성향을 파악하고 있다는 우려도 제기됐다.

김명주 한국전자통신연구원 AI안전연구소장은 17일 한국과학기술단체총연합회, 한국과학기술한림원, 국민생활과학자문단이 '딥시크 파장과 미래 전망'을 주제로 온라인으로 연 긴급 공동포럼에서 이같이 밝혔다. 그는 "딥시크의 위험성을 연구하면서 대량살상무기를 만드는 생물학, 화학, 원자핵 같은 정보가 있는지 확인했는데 상당히 들어 있었다"고 말했다.

전문가들은 딥시크 이용자가 위험한 정보를 쉽게 찾아볼 수 있다는 점도 짚었다. 이상근 고려대 정보보호대학원 교수도 "딥시크는 화학무기를 제조하는 방법이나 사이버해킹을 할 수 있는 코드 등 굉장히 위험한 답변을 주기도 한다"며 "딥시크는 공격이 들어오면 100% 다 탈옥이 가능한 상황이기 때문"이라고 전했다. 탈옥이란 위험한 질문에 대해선 답변하지 않도록 하는 안전장치를 우회하는 방법을 말한다. 일반적인 AI 모델은 '윈도를 해킹하는 코드를 알려줘'라는 요청에 '윤리적인 이유로 답변할 수 없다'는 식으로 답하는 반면, 탈옥에 성공한 모델은 사이버 공격 방법을 알려준다.

글로벌 보안기업 시스코에 따르면 딥시크 모델의 탈옥 성공률이 100%에 달했고 메타의 라마 3.1 모델(96%), 오픈AI의 GPT-4o(86%)가 뒤를 이었다. 오픈AI의 o1은 26%로 가장 낮았다.

김명주 AI안전연구소장. 연합뉴스

중국 정부가 딥시크 이용자를 '프로파일링'할 가능성도 우려점으로 지적됐다. 김 소장은 "우리는 글이나 사진 같은 개인정보를 곳곳에 흘리고 다니는데 이런 단편적인 정보 몇 년치를 통해 성향을 알아볼 수 있다"며 "여당인지 야당인지 같은 정치 성향부터 좋아하는 것이 무엇인지까지 알 수 있어 마케팅도 가능하다"고 설명했다. 그러면서 "중국은 보안을 위해 필요하다면 중국 기업들이 가진 가입자 정보에 무제한 접근할 수 있다. 소위 프로파일링을 통해 당성 검사를 할 수도 있는 것"이라고 언급했다.

딥시크가 오픈소스로 배포된 만큼 '히든코드'도 주의해야 한다는 목소리가 나왔다. 히든코드란 사용자가 평상시에는 인식하지 못하다가 특별한 상황에서 활성화되는 코드를 말한다. 예컨대 얼굴인식 소프트웨어가 평소에는 정상적으로 동작하다가 특정한 얼굴을 인식할 경우 코드 뒷단에 숨겨져 있는 바이러스가 나오는 등 이상동작이 발생하는 것이다.

김 소장은 "오픈소스는 히든코드를 통해 백도어(서비스의 보안을 피하는 데 사용할 수 있는 기능)가 생길 수도 있다고 생각한다"며 "보통 오픈소스는 소프트웨어 배포하는 사람이 믿을 만한 사람인지를 보고 안전성을 판단하는데 중국이란 것 때문에 특히 의심이 간다"고 말했다.

전영주 기자 ange@asiae.co.kr