[과학을읽다]'인터넷 붕괴' 초래할 中의 놀라운 실험 결과

中 연구팀, 초보 수준 양자컴퓨터로 대형 RSA 암호 해독 성공
지난달 논문 공유사이트에 연구 결과 공개
네이처 "결국 양자컴이 인터넷 붕괴시킬 것"

[아시아경제 김봉수 기자] 양자컴퓨팅 기술은 이론상 엄청나게 빠른 연산이 가능해 현존하는 모든 암호 체계를 무력화할 수 있다. 예컨대 누군가 양자 컴퓨터를 몰래 개발한 후 미국의 핵무기 암호 키를 해독해 내거나 비트코인 비밀번호를 훔쳐내면? 최악의 '테러'가 된다. 양자컴퓨터가 인류 문명의 위기를 초래할 수 있다는 주장의 근거다. 그런데 최근 중국의 한 연구팀이 실제 초보적 성능의 양자컴퓨터만 가지고서도 기존 컴퓨터 암호 체계를 해독할 수 있을 것으로 보이는 기술을 발표해 관심을 끌고 있다.

10일 국제학술지 네이처(nature)는 중국 베이징 양자정보과학원 연구팀이 이같은 내용의 논문을 지난달 사전 논문 공유 사이트 아카이브(arXive)에 게재했다고 전했다. 기존 컴퓨터들은 공개키 암호 방식(RSA)을 채택하고 있다. 소인수 분해를 이용한 이 암호 방식은 슈퍼컴퓨터로 풀면 1만년 이상이 걸릴 정도로 안전하다. 하지만 초고속 연산에 최적화된 양자컴퓨터가 개발되면 이론적으로 단 2분 만에 풀어 버릴 수 있다는 게 과학자들의 전망이다.

아직 양자컴퓨터 개발은 초기 단계이며, RSA 암호 방식을 무력화시킬 정도로 발전하기 위해선 많은 시간이 필요할 것으로 예측되고 있다. 그러나 1990년대 피터 쇼어 미국 MIT대 수학과 교수가 '쇼어 알고리즘'을 개발해 양자의 물리적 특성을 이용하면 고전적 컴퓨터보다 훨씬 더 뛰어난 연산 작업을 수행할 수 있다는 사실을 확인했다. 기존 디지털 비트(Bit)는 아무리 트랜지스터를 개선해 속도와 용량을 높이더라도 전기 신호가 다니는 통로가 하나뿐이라 대량의 정보를 한꺼번에 처리하려면 병목 현상이 불가피하다. 하지만 양자의 얽힘ㆍ중첩 현상을 이용한 큐비트(Qubit)를 사용하는 양자컴퓨터는 수많은 통로가 존재해 한꺼번에 많은 변수를 가진 연산을 처리할 수 있다. 소인수 분해를 이용한 암호키는 숫자가 커질수록 어려워져 기존 폰 노이만 방식의 컴퓨터는 수만 년이 걸리는데, 양자컴퓨터는 몇 분 안에 풀어낼 수 있는 이유다.

현재 가장 빠른 연산을 할 수 있는 양자컴퓨터는 지난해 11월 IBM이 발표한 오스프리 칩으로 433큐비트급으로 알려졌다. 과학자들은 이보다 두 배 이상 규모가 큰 1000큐비트급 이상이 되면 RSA 암호 체계를 단시간에 해독할 수 있는 연산이 가능해질 것으로 예측하고 있다. 그러나 양자컴퓨터의 성능과 속도를 높이려면 양자가 빛, 중력, 온도 등 일체의 간섭이 없도록 해야 해 현재 기술 수준으로는 1950년대 초기 컴퓨터인 애니악처럼 건물 수준의 크기와 많은 장비ㆍ에너지의 투입, 특별한 운용 기술 등이 필수적이다. 관측 또는 간섭 없이 양자칩의 연산 결과를 읽어내는 기술을 개발하는 것도 난제다.

이런 상황에서 베이징 양자정보과학원 연구팀은 초보적 수준의 양자컴퓨터만으로도 기존 RSA 암호 체계를 무력화시킬 수 있다는 단서를 제공했다. 연구팀은 쇼어(Shor) 알고리즘이 아니라 슈노어(Schnorr) 알고리즘을 사용해 RSA 암호 체계를 해독하는 방안을 제시했다. 슈노어 알고리즘은 클라우스 슈노어 독일 괴테대 수학교수가 고안한 정수 인수 분해를 응용한 알고리즘으로 가상 화폐 등에서 디지털 서명용으로 활용되는 암호 체계다. 연구팀은 양자 근사 최적화 알고리즘(quantum approximate optimization algorithmㆍQAQA)이라고 부르는 방식을 이용해 양자컴퓨터에서 슈노어 알고리즘 프로세스의 일부를 구현했다.

아직 동료 검증 절차가 남았지만, 연구팀은 논문에서 이같은 방식을 이용해 372큐비트의 양자 컴퓨터를 갖고 600개 이상의 소수 자릿수를 가진 강력한 RSA 암호키를 깨뜨릴 수 있다고 주장했다. 실제 실험에선 오류 발생을 피하기 위해 10큐비트의 양자컴퓨터로 15개 자리의 대형 숫자(261조9809억9922만6229)를 소인수 분해하는 계산을 실시해 답(1553만8213×1686만433)을 찾아내는데 성공했다. 연구팀은 "비록 현대적 웹 브라우저들이 사용하는 암호 키보다 작은 숫자이긴 하지만 양자컴퓨터로 계산해 낸 것으로는 가장 큰 규모의 숫자"라고 설명했다.

과학자들은 이번 베이징 양자정보과학원 연구팀의 실험이 비록 불충분하고 검증되지 않았다고 하더라도 조만간 양자컴퓨팅의 시대가 도래할 것이라는 신호로 보기에 충분하다는 입장이다.

네이처는 "슈노어 알고리즘을 활용한 연구팀의 기법이 아니더라도 결국 양자컴퓨터는 쇼어 알고리즘 방식에 의해서 인터넷을 붕괴시킬 수 있을 것"이라며 "보안 연구자들은 '양자 공격'을 방어할 수 있을 것으로 보이는 여러가지 대안 암호화 시스템을 개발하느라 바쁘다"고 지적했다.

김봉수 기자 bskim@asiae.co.kr