양자 컴퓨터(Quantum Computer, 퀀텀컴퓨터)의 엄청난 계산 능력은 실증됐지만, 이의 실용화는 다른 문제로, 결코 간단하지가 않다. 막대한 동시병렬 계산의 결과는 중첩돼 있기 때문에, 보통으로 읽어 내면 무언가 하나를 남기고 이후 사라져버린다.

따라서 정보의 극히 일부를 읽어내는 것만으로 의미가 있는 것 같은, 양자컴퓨터에 부합하는 문제를 찾을 필요가 있다. 예를 들어, 새로운 물질이나 재료의 시뮬레이션이나 암호해독의 열쇠가 되는 합성수를 소수의 곱으로 나타내는 소인수분해(素因數分解) 등을 들 수 있다.

그러나 현재의 양자컴퓨터로는 그런 계산을 수행할 수 없다. 양자소자는 매우 약해 연산을 반복하는 중에 중첩이 계속 부서져 오류가 발생하기 쉽기 때문이다.

오류를 수정하면서 계산을 계속하는 방법은 알고 있지만 실현은 기술적으로 매우 어려워, 연구자 대부분은 앞으로 10여년 이상 걸릴 것으로 예상하고 있다. 경이적인 계산 능력을 가지고 있지만 계산을 계속해 나갈 수 없는 지금의 어중간한 양자컴퓨터를 사용해 의미 있는 계산을 할 수 있는지를 탐색하는 연구는 계속될 것이다.

지금으로서는 화학계산과 인공지능(AI) 분야가 유망할 것으로 기대되고 있으며, 전 세계의 대학이나 글로벌 IT 기업, 그리고 다수의 양자 벤처기업이 새로운 용도를 찾아내는 데 전력을 다하고 있다

특히, 양자 컴퓨터는 0 또는 1로 이루어진 기존 컴퓨터의 비트(bit)와는 달리, 0인 동시에 1이 될 수 있는 큐비트(qubit)가 기초다. 큐비트 개수가 많아질수록 정보처리 속도는 비약적으로 높아지고 점점 더 커지고 있지만 추가 컴퓨팅 성능을 활용할 수 있는 실용적인 방법은 거의 없다.

이 과제를 극복하기 위해 고전 컴퓨터에서 양자 컴퓨터로의 전환을 용이하게 하기 위해 컬럼비아대학교(Columbia University)와 구글 양자 인공지능(Google Quantum AI)의 공동연구팀이 현재까지 가장 많은 양자 비트를 사용하여 양자 역학 시스템에서 가장 낮은 '바닥상태(基底狀態)의 에너지(ground state energy)'를 계산하는 알고리즘을 개발했다.

컬럼비아大 박사 후 연구원이자 구글 퀀텀 AI 이준호(Joonho Lee) 박사와 컬럼비아大 화학부 데이비드 라이히만(David Reichman) 교수가 주도한 이 알고리즘은 화학 방정식을 처리할 때 양자 비트 또는 큐비트에 의해 생성되는 통계적 오류 또는 노이즈를 줄이는 것이다. 이를 통해 새로운 물질(재료)을 더 쉽게 설계하는 데 도움이 될 수 있다.

이 알고리즘은 구글이 2019년 개발한 0.2입방미리미터(㎣)의 초전도 소자 53개(큐비트)로 구성된 양자 프로세서 ‘시카모어(Sycamore)’를 사용하여 분자의 가장 낮은 에너지 상태인 바닥상태 에너지를 계산했다. 이것은 실제 양자 장치에서 수행된 것 중 가장 큰 양자 화학 계산이다.

구글 퀀텀 AI 이준호 박사는 바닥상태 에너지를 정확하게 계산하는 능력은 화학자들이 새로운 물질을 개발할 수 있게 해줄 것이라며, 이 알고리즘은 다른 지속 가능성 목표 중에서 농업을 위한 질소 고정과 청정에너지를 만들기 위한 가수분해 모두를 가속화하는 물질을 설계하는 데 사용될 수 있다고 말했다.

이 알고리즘은 룰렛(roulette) 게임과 같이 무작위로 알려지지 않은 변수가 많을 때 확률을 계산하는 시스템인 양자 몬테카를로(Monte Carlo)를 사용했다. 여기서 연구팀은 계산을 위해 8 큐비트를 사용하는 헬리오사이드(heliocide, H4), 12 큐비트를 사용하는 분자 질소(N2), 16 큐비트를 사용하는 고체 다이아몬드 등 세 분자의 바닥상태 에너지를 결정하기 위해 알고리즘이 적용됐다.

바닥상태의 에너지는 분자 내 전자의 수, 전자가 회전하는 방향, 그리고 핵 주위를 돌 때 그들이 가는 경로와 같은 변수에 의해 영향을 받습니다. 이 전자 에너지는 슈뢰딩거 방정식으로 부호화된다.

바닥상태 에너지는 분자 내 전자의 수, 전자가 회전하는 방향, 핵 주위를 도는 경로와 같은 변수의 영향을 받는다. 이 전자 에너지는 슈뢰딩거(Schrodinger) 방정식으로 인코딩된다. 기존 컴퓨터에서 방정식을 푸는 것은 분자가 커짐에 따라 기하급수적으로 어려워지지만, 해법을 추정하는 방법은 과정을 더 쉽게 만들었다. 양자 컴퓨터가 기하급수적인 확장 문제를 어떻게 회피할 수 있을지는 이 분야에서는 미해결 문제였다.

원칙적으로 양자 컴퓨터는 슈뢰딩거 방정식을 푸는 데 필요한 것과 같이 기하급수적으로 더 크고 복잡한 계산을 처리할 수 있어야 한다. 왜냐하면 양자를 구성하는 큐비트가 양자 상태를 이용하기 때문이다. 1과 0으로 구성된 2 진수 또는 비트와 달리 큐비트는 두 상태로 동시에 존재할 수 있다.

그러나 큐비트는 취약하고 오류가 발생하기 쉽다. 큐비트가 많을수록 최종 답은 정확도가 떨어진다. 이준호 박사의 이 알고리즘은 기존 컴퓨터와 양자 컴퓨터의 결합된 능력을 이용해 양자컴퓨터의 오류를 최소화하면서 화학방정식을 보다 효율적으로 풀어낸 것이다.

이 박사는 "이것은 두 세계 모두에서 최고입니다"라며, "우리는 양자 정보 과학에서 최첨단으로 간주되는 도구뿐만 아니라 이미 가지고 있는 도구를 활용하여 양자 계산 화학을 정제화 한 것입니다"라고 밝혔다.

기존 컴퓨터는 연구팀의 양자 몬테카를로 시뮬레이션을 대부분 처리할 수 있다. 시카모어는 마지막, 가장 계산적으로 복잡한 단계를 위해 뛰어든다. 양자 컴퓨터에 의해 구현될 수 있는 바닥상태 에너지의 수학적 설명에 대한 추론의 시험 파동 함수(a trial wave function)와 몬테카를로의 통계 과정의 일부인 샘플 파동 함수 사이의 중첩 계산으로 몬테카를로 통계 프로세스의 일부다.

이 중첩은 경계 조건으로 알려진 일련의 제약 조건을 몬테카를로 샘플링에 제공하여 계산의 통계적 효율성을 보장한다(아래 영상은 이준호 박사의 '양자 컴퓨터를 사용한 편견 없는 페르미온 양자 몬테카를로'웨비나 참조).

이준호 박사는 "바닥상태 에너지를 해결하기 위한 이전 기록은 12큐비트와 변이 양자 아이겐솔버(eigensolver), 즉 VQE(Variational quantum eigensolver)라고 불리는 방법을 사용했습니다"라며, "그러나 VQE는 양자 몬테카를로 알고리즘이 현재 포함하고 있는 바닥상태 에너지를 계산하는데 중요한 변수인 상호작용하는 전자의 영향을 무시했으나 기존 컴퓨터로부터 가상 상관 기술을 추가하는 것은 화학자들이 더 큰 분자를 다루는 데 도움을 줄 수 있을 것입니다"라고 밝혔다.

이 새로운 연구에서 하이브리드 고전-양자 계산은 최고의 기존 방법 중 일부만큼 정확한 것으로 밝혀졌다. 이는 양자컴퓨팅의 중요한 이정표인 양자컴퓨터로 문제를 보다 정확하고 빠르게 해결할 수 있음을 시사한다.

연구팀은 더 효율적인 알고리즘을 만들기 위해 계속해서 알고리즘을 조정할 것이며 더 나은 양자 하드웨어를 만들기 위해 노력할 것이다 더 크고 더 어려운 화학적 문제를 해결할 가능성은 시간이 지남에 따라 높아질 것으로 이는 개발 중인 양자 기술이 실질적으로 유용할 것이라는 확신이라고 밝혔다.

한편, 이연구 결과는 국제 과학 학술지 네이처(Nature) 誌에 '양자 컴퓨터를 사용해 페르미온 양자 몬테카를로의 편향 제거(Unbiasing fermionic quantum Monte Carlo with a quantum computer-다운)'란 제목으로 16일(현지시간) 게재됐다. 아울러 새로운 양자 알고리즘 개발을 위해서는 Google Quantum AI의 다양한 오픈 소스 코드 라이브러리(다운)를 참고하면 된다.