이원영 기자
중국 연구기관 7곳에 소속된 연구자 20명 이상이 공동으로 학술 논문을 발표했다. 이 논문은 2021년 발표된 최신 인수분해 알고리즘을 QAOA(Quantum Approximate Optimization Algorithm)와 조합해 양자컴퓨터를 이용해 RSA 암호를 해독할 수 있다고 주장하는 것이었다. 하지만 이 논문에 대해 연구자로부터 회의적인 목소리가 나오고 있다.
양자컴퓨터가 IT 업계에서 화제가 되면서 오랫동안 양자컴퓨터가 인터넷 세계 암호화 기술을 뒷받침하는 RSA 암호를 돌파해버리는 것 아니냐는 우려가 나왔다. 실제로 2019년에는 2048비트 양자비트가 있으면 양자컴퓨터를 이용해 RSA 암호를 8시간 만에 돌파할 수 있다고 주장하는 논문이 발표되고 있으며 미국에선 국가안보국 NSA가 내양자암호 알고리즘을 개발하기 위한 프로젝트를 2015년 시작했고 2022년에는 미국국립표준기술연구소 NIST가 양자컴퓨터에서도 해독하기 어려워지는 내양자암호 알고리즘 개발을 계속하고 있다.
RSA 암호를 양자컴퓨터를 이용해 돌파할 수 있는 날이 언제 오는지 누구도 알 수 없지만 2022년 12월 23일 중국 연구팀이 아카이브에 초전도 양자 프로세서에서 부분 선형 자원을 이용한 정수 인수 분해(Factoring integers with sublinear resources on a superconducting quantum processor)라는 논문을 발표했다. 이 논문은 QAOA와 조합해 정수 인수 분해를 고속 실행 가능하게 하는 알고리즘을 만들 수 있으며 이 알고리즘을 양자컴퓨터에서 실행하면 RSA 암호를 돌파할 수 있게 된다고 주장하고 있다.
연구팀은 양자비트 372개를 갖춘 양자컴퓨터가 있으면 RSA 암호 돌파가 가능하다고 주장하고 있으며 이미 발표된 IBM 양자 프로세서인 오스프리(Osprey)가 양자비트 433개를 보유하고 있는 만큼 마치 기존 양자 컴퓨터로 RSA 암호를 돌파할 수 있다는 얘기가 될 수 있다.
한 미국 연구자는 중국 연구팀이 발표한 논문은 올바르지 않을 수도 있지만 분명히 잘못됐다는 것도 아니라고 밝히고 있다. 또 다른 연구자는 이번에 발표한 양자컴퓨터에서 정수 소인수 분해를 대폭 가속화하는 알고리즘에 대해 감명을 받았다면서도 알고리즘 수행에 필요한 양자컴퓨터에 대해선 아직 실용 단계가 아니라고 경고하고 있다.
그 밖에 또 다른 전문가는 이 논문에 대해 아니라면서 정면 반박하기도 했다. QAOA를 사용해도 기존 컴퓨터보다 양자컴퓨터에서 알고리즘이 고속 동작하는 건 실증되어 있지 않다는 지적이다. 또 논문에선 기존 컴퓨터를 이용해 고전적인 슈노어 알고리즘을 실행하는 경우와 QAOA를 이용한 정수 인수 분해 속도를 비교하고 있지만 이 전문가는 고전적인 알고리즘과 새로운 알고리즘을 실행하는 학문적 비교는 접근법 유익성을 입증하기에 충분하지 않다며 일반적으로 이 논문은 자신이 수십 년 동안 본 논문 중 가장 적극적으로 오해를 초래하는 양자컴퓨팅 관련 논문 중 하나라고 지적하고 있다.
보안 기업인 카스퍼스키는 양자컴퓨터는 거대한 정수를 초고속으로 인수 분해하고 RSA 암호를 포함한 많은 비대칭 암호화를 해독한다는 이론은 이전부터 존재했다며 그런데 모든 전문가는 RSA 암호를 깨끼 충분한 양자컴퓨터도 아마도 수십 년 이내에 구축될 것이라는 점에 동의한다고 밝히고 있다. 관련 내용은 이곳에서 확인할 수 있다.
이석원 기자
