현대판 모·순…양자컴퓨터vs양자내성암호 승자는?[과학을읽다]

'어떤 암호든 순식간에 푸는' 양자컴퓨터 발전
사이버 보안 위해 양자내성암호 연구도 활발

[아시아경제 김봉수 기자]모·矛)과 방패(순·盾)가 각각 천하무적이라고 자랑하자 한 사람이 "그럼 그 창과 방패를 한 번 부딪혀 보라"고 말했다. 어떤 방패도 뚫는 창, 모든 창을 막아내는 방패는 있을 수가 없다. 당황한 무기 상인은 도망가고 말았다.

현대판 모순 대결이 벌어지고 있다. 양자컴퓨터와 양자내성암호(QPC)가 그 주인공이다. 어떤 암호도 풀어 낼 수 있다는 ‘창’, 양자컴퓨터가 날로 발전을 거듭하면서 상용화의 길에 다가서고 있다. 반면 양자컴퓨터의 미래가 불명확한 상황에서 ‘방패’인 양자내성암호의 효용성을 주장하는 측도 만만치 않다.

◇‘무적 창’ 양자컴퓨터의 등장

"현존하는 가장 어려운 암호도 단 몇 초 만에 풀어 버릴 수 있다." 만약 이런 일이 현실화되면 어떻게 될까? 블록체인 등 기존 컴퓨터 보안 체계가 모두 무용지물이 된다. 개인 정보 유출은 물론 비트코인 등 암호화폐 거래는 사실상 불가능해진다. 모든 서버의 보안도 뚫릴 수 있다. 금융거래ㆍ국가 보안망 등 일체의 컴퓨터 네트워크가 무용지물이 될 수 있다. 문제는 양자컴퓨터의 등장과 급속한 기술발달로 이 문제가 점점 ‘현실화’ 되어 가고 있다는 것이다. 1980년대 개념이 등장한 양자컴퓨터는 0과 1로 나뉘는 기존 디지털 비트와 달리 0과 1이 중첩된 상태라는 큐비트(Qubit) 개념(양자 병렬성)을 이용한다. 현재의 컴퓨터가 비록 빠른 속도의 연산을 할 수 있지만 한 번에 하나의 연산 밖에 할 수 없어 복잡하고 다양한 변수의 계산에는 시간이 너무 오래 걸린다.

반면 양자컴퓨터는 큐비트의 갯수가 많아 질 수록 복잡한 연산을 정확히 빠르고 안전하고 정확하게 수행할 수 있다. 인간의 두뇌가 복잡한 주변 상황을 한꺼번에 인식해 의사 결정을 내리는 것과 비슷하다. 예컨대 16큐비트 양자컴퓨터는 일반 컴퓨터가 6만5537회 해야 하는 연산을 단 한 번에 마칠 수 있다. 특히 1993년 피터 쇼어가 이른바 소인수분해 및 이산대수의 문제를 실시간으로 풀어주는 양자 컴퓨터 알고리즘(Shor‘s algorithm)을 개발하면서 ’무적의 창‘의 날이 벼려지기 시작했다. 공개키 암호 방식, 즉 소인수 분해, 이산대수라는 어려운 수학 난제를 이용한 암호 체계가 순식간에 해제될 수 있다는 가능성을 보여준 것이다. 인터넷 쇼핑ㆍ뱅킹 등 개인의 전자상거래나 안보ㆍ금융ㆍ국방 등 모든 분야의 암호 체계가 더 이상 안전하지 않다는 것을 의미해 사이버 세계의 ’암호 대란‘을 예고한 사건이었다. 만약 어느 한 국가, 단체가 비밀리에 이런 양자컴퓨터를 개발한다면? 위성·핵무기 암호 체계를 해킹하거나 스위스은행의 비밀 번호를 알아내는 것도 손쉬운 일이 된다.

이같은 양자컴퓨터 기술은 날로 발전하고 있다. 극저온ㆍ무중력 상태를 유지하기 위해 엄청난 장비가 필요한게 약점이지만, 상온ㆍ상압 상태에서 작동 가능한 방식도 연구되고 있다. 미국의 맥킨지앤드컴퍼니는 지난해 2월 2030년까지 양자컴퓨터가 전세계적으로 2000~5000대 가량 보급될 것으로 예측했다.

◇ 수년 내 암호화폐 보안도 깬다?

실제 세계 양자컴퓨터 연구를 선도하고 있는 IBM사는 이같은 ’무적 창‘ 개발 가능성을 공공연하게 과시하고 있다. 지난달 29일 한국과학기술연차대회에 참석한 원성식 한국IMB대표는 ’양자과학기술의 미래와 도전‘ 포럼에 참석해 내년 양자우월성(quantum supremacy) 달성, 수년내 암호화폐 보안 무력화 등의 가능성을 언급했다. 양자우월성 달성이란 기존 방식의 슈퍼컴퓨터보다 뛰어난 양자컴퓨터 개발을 의미한다.

이 대표는 "양자우월성을 달성하기 위해서는 1000큐비트를 넘겨야 하는 데, 그 시점을 내년으로 잡고 있다"면서 "올해 말까지 433큐비트를 상용화할 계획이며, 내년에 1121큐비트, 2025년에 4000 큐비트를 각각 달성할 예정이다. 수년 내 10만 큐비트를 초과한다는 게 자체 로드맵"이라고 말했다. 전문가들은 양자컴퓨팅의 능력이 10만큐비트를 넘어가게 되면 블록체인 기술, 즉 거래 내역을 여러 사람의 컴퓨터에 기록해 대조하는 방식의 현재의 암호화폐 보안 체계를 허물어 버릴 수 있는 연산 속도가 가능해 질 것으로 예상하고 있다.

◇뚫을 수 없는 방패도 있다

그렇다면 양자컴퓨터의 등장으로 사이버 보안은 완전히 무력화될까? ’방패‘가 준비되고 있다. 양자의 성질을 이용한 양자암호통신과 양자 내성 암호 기술이다. 양자암호통신은 빛의 가장 작은 단위인 광자에 정보를 담아 암호화해 전송하는 차세대 보안 통신 기술이다. 양자는 불확정성, 중첩성, 복제 불가 등의 성질을 갖고 있다. 송신자와 수신자만 해독할 수 있고, 해킹 시도에 노출되면 신호 자체가 왜곡ㆍ변질돼 원본 해석이 불가능하다. 이같은 성질을 이용한 양자암호 키 방식의 암호 체계를 세계 각국의 정부기관, 기업 등이 다양하게 연구 개발하고 있다. 우리나라에서도 SKT나 KT 등 이동통신사에서 상용화 단계에 돌입해 있다.

최근 한국과학기술연구원(KIST)이 한층 진일보된 양자암호통신 기술을 개발해 민간 기업에 이전하기도 했다. 기존 양자암호기술 상용화를 위한 과제, 즉 현재 100km 내에서만 가능하고, 1대1 통신만 되는 문제를 일부 해소했다. 한상욱 KIST 양자정보연구단장은 "단일 광원을 사용하는 플러그앤플레이(PnP) 구조를 적용해 TF QKD 시스템 작동에 필요한 난이도를 낮췄고, 1:1이 아닌 다대다 네트워크로 확장이 동시에 가능한 시스템 구조를 개발했다"면서 "이는 세계에서 두 번째 성공으로 장거리 양자암호 네트워크 분야를 리딩할 수 있는 기반 기술을 확보했다"고 설명했다. 양자암호통신은 그러나 별도의 장치와 안정적인 채널이 필요해 확장성이 떨어진다는 단점이 지적되고 있다.

또 다른 방식인 양자내성암호에 대한 연구도 활발하다. 양자내성암호는 양자컴퓨터의 초고속 연산 속도라도 푸는 데 시간이 수억년 정도 걸릴 것으로 ’예상되는‘ 어려운 수학적 난제들을 이용해 암호를 생성하는 방식이다. 우리나라에서도 국가수리과학연구소가 2020년 4월 다변수 이차식 기반 양자내성암호 알고리즘을 개발했다. 양자컴퓨터의 쇼어 알고리즘이 소인수분해ㆍ이산대수 방식의 공개키 암호를 풀었다면, 이 알고리즘은 다변수 이차식 연립방정식의 해를 구하는 방식이어서 쇼어 알고리즘으로는 해결이 불가능하다. LG U+가 지난해 발표한 양자내성암호는 에러가 있는 선형일차방식의 해를 구하는 ’선형잡음문제‘를 효과적으로 공략할 수 있는 격자기반 암호 방식이었다. 이 기술은 소프트웨어 형태로 암호키의 생성과 교환, 저장, 폐기 등 키 관리 기능이 전송장비에 내장돼 별도의 키 관리 시스템과 키교환 전용 회선이 불필요해 확장성이 뛰어나다. 2019년 한국정보통신기술협회(TTA)로부터 국내 표준으로 지정되기도 했다. 이같은 기술들은 풀기 어려운 수학적 난제일 수록 필요한 큐비트 자원이 지수함수적으로 증가한다는 점 때문에 실제로는 양자컴퓨터도 풀 수가 없다는 점을 이용했다.

◇ ’초울트라슈퍼 창‘의 등장

그러자 다시 ’창‘의 반격이 시작됐다. 그것도 우리나라 연구진에 의해서다. 양자내성암호가 아무리 어려운 수학적 난제를 이용한다고 하더라도 양자컴퓨팅을 통해 공략할 수 있다는 가능성이 확인된 것이다. 한국전자통신연구원(ETRI)은 지난 5월 한국과학기술연구원(KIST)과 서울대, 한양대 등 국내외 연구진과 함께 ’분할-정복‘ 전략으로 양자내성 암호를 풀 수 있는 양자 알고리즘을 개발했다. 분할-정복 전략이란 전체 구조를 하부 구조들로 작게 나누고 개별 공략하는 방법이다. 쉽게 말해 엄청난 크기의 수학 문제를 작게 나눠 개별적으로 풀면 소규모의 양자컴퓨터로도 그동안 불가능하다고 생각되던 양자내성암호 공략이 가능하다는 점을 밝혀낸 것이다. 연구팀은 "해결하고자 하는 문제에 대비해 필요한 자원의 증가량 양상이 지수함수에서 다항 함수로 줄어드는 ’지수함수적 양자이득을 달성했다"면서 "보통 자원량 증가가 지수함수적이면 어려운 문제로, 다항 함수적이면 쉬운 문제로 분류된다"고 설명했다.

하지만 아직 모와 순의 전쟁은 끝나지 않았다. 우선 양자컴퓨터의 발전 양상이나 속도는 물론 어떤 결과물이 나올 것인지도 불투명한 상황이다. 양자컴퓨터와 양자내성암호와의 대결에서 승패를 예측하는 것은 사실상 현재로선 불가능하다. 실제 양자컴퓨터가 상용화된다고 하더라도 기존 컴퓨터를 대체하는 대신 까다로운 문제, 즉 인수분해, 복잡한 미적분, 행렬의 변환, 머신러닝, 복잡한 최적화 문제, 몬테카를로 시뮬레이션 등을 대신할 수 있는 수준일 것으로 예상되고 있다. 예컨대 물류를 최적화하는 기술이다. 미국의 정유회사인 엑슨모빌의 경우 현재 전 세계 500여 대 LNG 선박의 이동 경로와 지정학적 위험, 기후변화 등을 고려해 물류를 최적화하는 경우의 수가 2의 100만 승이다. 기존 컴퓨터로는 풀 수 없고 양자컴퓨터라면 최적의 물류 경로를 계산해 낼 수 있다.

국내 한 양자컴퓨터 전문가는 "양자과학기술은 현실화되고 있으며, 아직은 범용에 도달하기까지 기술적 난관이 있지만 20년 정도의 시간이 필요할 것으로 생각된다"면서 "앞으로 양자컴퓨터가 가져올 파급력을 생각하면 이런 미래 기술에 대해 먼저 준비를 해야 할 시점"이라고 말했다.

김봉수 기자 bskim@asiae.co.kr