[과학을 읽다]양자컴퓨터 치명적 계산 오류‥'열쇠' 찾았다

KIST 연구진, 세계최고 수준 양자오류정정기술 개발
양자컴퓨터 개발 빅테크에 뒤졌지만 오류정정은 어깨 나란히

양자컴퓨터는 현존하는 모든 계산 관련 난관을 풀어버릴 수 있는 신기술이다. 월등히 뛰어난 계산 능력에는 양날의 칼과 같은 문제가 있다. 계산의 오류다. 양자컴퓨팅 기술의 실용화를 위해서는 오류 문제의 해결이 필수적이다. 국내 기술진이 세계적 양자컴퓨터 선도 기업 수준의 성과를 발표해 이목을 끌고 있다.

◇속도는 뒤졌지만 오류 정정은 앞선다= 한국과학기술연구원(KIST)은 지난달 29일 양자기술연구단 이승우 박사팀이 세계 최고 수준의 양자 오류 정정 기술을 개발하고 이를 기반으로 결함 허용 양자컴퓨팅 아키텍처를 설계했다고 밝혔다. 이 기술을 활용하면 범용 양자컴퓨터 개발 선두 업체인 미국 사이퀀텀(PsiQuantum)이 최근 개발한 양자 오류 정정 기술의 성능을 뛰어넘을 수 있다는 결과도 입증했다.

이승우 KIST 연구원

양자 연산의 최소 단위인 큐비트는 기존 컴퓨터와 달리 정보를 0 또는 1이 아니라 0~1이 중첩된 값을 나타낼 수 있어 기존 컴퓨터를 뛰어넘는 성능을 낼 수 있다.

문제는 입력된 정보가 빠르게 손실되며 오류가 쉽게 발생한다. 큐비트에서 발생하는 오류와 제어의 정확도를 아무리 개선해도 시스템 크기와 연산 규모가 커질수록 오류가 누적되면 컴퓨터의 역할을 할 수 없다. 이를 해결할 방법이 ‘양자 오류 정정(Quantum error correction)’이다. 아무리 큐비트의 성능을 높여도 오류가 높다면 소용없는 법. 양자컴퓨팅 개발을 선도하는 주요 국가와 기업들도 성능을 높이려 하면서도 양자 오류 정정 기술 개발에 집중하는 이유가 여기에 있다.

양자 오류 정정이 수행되는 범용 양자컴퓨터의 성능은 최대 결함 허용 임계값(Fault-tolerance threshold)으로 평가된다. 이 임계값은 양자컴퓨팅에서 발생하는 오류를 얼마나 잘 보정할 수 있는지를 나타내며 오류 정정 기술과 아키텍처 설계가 우수할수록 높은 값을 가진다.

사이퀀텀은 광자의 얽힘 자원, 퓨전 기법과 오류 정정 기술을 활용한 양자컴퓨터를 개발하고 있다. 사이퀀텀 방식의 최대 광손실 임계값은 2.7%로 보고됐다. KIST 연구팀이 개발한 새로운 오류 정정 기법은 사이퀀텀보다 훨씬 뛰어난 성능을 보인다.

KIST의 기술은 최대 14%의 광손실 임계값을 달성할 수 있다. 이는 현재 전 세계에서 가장 높은 수치의 임계값이다. 또한, KIST의 오류 정정 기법은 동일한 광자 소모량으로도 사이퀀텀 방식의 기술보다 훨씬 우수한 자원 효율성을 보였다.

이번 연구는 순수 국내 연구진이 이루어낸 성과로, 양자컴퓨팅 분야에서 후발주자인 우리나라가 세계 최고 수준의 핵심 기술을 개발했다는 중요한 의미가 있다. 국내 양자 기술이 양자 선진국 기술에 비해 크게 뒤진다는 평가 속에 나온 결과라는 점은 더욱 돋보인다. 해외 주요 기업들이 1000큐비트 수준의 성능에 도달한 반면 우리는 이제 20큐비트 달성에 도전하는 상황이다.

윤석열 대통령이 지난해 6월 서울 동대문디자인플라자(DDP)에서 열린 '양자과학기술 현재와 미래의 대화'를 마친 뒤 '퀀텀 코리아 2023' 전시관을 찾아 한국표준과학연구원의 초전도 기반 50큐비트 양자컴퓨터 모형을 살펴보고 있다. [대통령실통신사진기자단] [이미지출처=연합뉴스]

유상임 과기정통부 장관이 3대 게임 체인저 기술 중 양자가 가장 걱정된다고 할 정도로 국내 양자 분야에 대한 기대 수준은 아직 낮은 상황이다. 이런 우려를 뒤집을 수 있는 ‘카운터펀치’가 될 수도 있다.

양자 오류 정정 기술은 광자 기반뿐만 아니라 초전도, 이온트랩, 중성원자 등 양자컴퓨터 개발에 절대적인 역할을 하는 큐비트 개발에 필수적인 요소다. 세계적으로 연구개발 경쟁이 매우 치열한 분야이다.

이번 성과는 우리나라가 미국 등 양자 분야 선도 국가들의 기술을 따라잡고 나아가 앞설 가능성을 보여줬다는 점에서 한국 양자산업의 희망가를 울렸다는 기대를 받고 있다.

KIST는 이번 성과에 대해 국내외 특허 출원을 마친 상태다. KIST는 독자적인 범용 양자컴퓨팅 시스템을 구축하는 데도 중요한 역할을 할 것으로 기대 중이다.

이승우 KIST 박사는 "반도체 칩 설계 기술과 마찬가지로 양자컴퓨팅도 아키텍처 설계가 중요하다. 1000개의 큐비트가 있어도 오류 정정이 수행되는 구조가 아니면 한 단위의 논리 큐비트 연산도 어렵다"며 "양자컴퓨팅의 실용화는 아직 시간이 필요하지만, 그 시기를 조금 앞당기는 데 기여한 연구"라고 밝혔다.

◇해외 학자들도 양자 오류 기술 확보 경쟁 치열= 최근 범용 양자컴퓨터 개발을 선도하는 구글, AWS, 사이퀀텀, 산두, 하버드 대학, 쿼라, 도쿄 대학 등의 글로벌 그룹과 기업은 모두 양자 오류 정정 기술 개발에 집중하고 있다.

미카일 루킨 하버드대 교수도 지난 6월 경기도 일산 킨텍스에서 진행된 ‘퀀텀 코리아 2024’ 특별 강연에서 기존 양자컴퓨터에서 불가능한 것으로 여겨졌던 오류 정정을 ‘중성 원자’를 큐비트로 쓰는 양자컴퓨터 연구를 통해 구현한 성과를 소개해 이목을 끌었다.

루킨 교수팀은 여러 중성 원자들로 ‘논리적 큐비트’라는 구조를 따로 만들어서 양자 정보를 안정화(stabilize)하고 오류를 줄이는 데 성공했다.

루킨 교수는 "양자컴퓨터의 성능, 제어력, 오류 측면에서 앞으로 많은 개선이 있을 거라고 생각한다"면서 "양자과학은 순수과학과 공학 응용이 결합한 학문"이라며 "100큐비트급 되는 기기들이 멀지 않은 미래에 출시될 것"이라고 내다봤다.

백종민 기자 cinqange@asiae.co.kr