양자컴퓨터는 슈퍼컴퓨터 대비 수억 배 이상 빠른 초고속 연산이 가능해 미래형 컴퓨터로 주목받으며 다양한 산업에서 혁신을 촉발할 것으로 기대되는 가운데 국내 연구진이 양자컴퓨터에 적합한 최적화 알고리즘의 구조를 한층 더 효율적으로 개선했다.

지스트(광주과학기술원, 총장 김기선) 안창욱 교수 연구팀은 기존 반-고전 양자 유전 알고리즘의 최적화 성능을 유지하면서도 연산 효율성을 획기적으로 끌어올릴 수 있는 알고리즘의 구조를 개선한 것이다.

이번 연구는 양자컴퓨터만이 가능한 연산 방식으로 효율성까지 고려함으로써 향후 실용적인 양자 최적화 알고리즘 연구의 발판이 될 것으로 기대된다.

양자 유전 알고리즘(Quantum Genetic Algorithm)은 양자 신경망, 양자 강화학습 등 기존의 고전적 컴퓨터에서 그 성능이 입증된 기술들을 양자컴퓨터에서 재현하려는 시도의 일환으로 유전 알고리즘의 장점인 전체 탐색 영역에서 최적의 해를 찾는 ‘전역 최적화(global optimization)’에 대한 메타-휴리스틱 접근법을 양자컴퓨터에서 구현하는 것을 목표로 한다.

그 하위개념인 ‘반-고전 양자 유전 알고리즘’은 고전적 유전 알고리즘의 실행구조를 그대로 모사함으로써 상대적으로 빠른 성능 검증과 실용화에 초점을 둔 방법론이며, 이전의 관련 연구는 알고리즘의 양자적 전환이라는 목표에 지나치게 집중한 반면, 최적화 성능 향상은 상대적으로 관점의 대상에서 벗어난 한계가 있었다.

양자계에서 필연적으로 발생하는 파동함수 붕괴는 반복적인 연산을 통해 해를 찾는 유전 알고리즘의 작동 원리와 상충하며, 기존의 반-고전 양자 유전 알고리즘 연구들은 모집단 형성 시 대량의 무작위(randomized) 개체를 생성함으로써 이 문제를 우회적으로 해결하였다.

그러나 이는 모집단의 규모를 불필요하게 확장했기 때문에 양자 컴퓨터가 가진 리소스의 낭비를 초래하는 결과를 낳았다.

이번 연구는 이러한 무작위 개체들이 알고리즘의 최적화 작업에 거의 기여하지 않는다는 가설을 세운 뒤, 알고리즘의 다윈 진화적 구조를 유지하면서도 무작위 개체의 생성을 최소화하기 위한 양자 회로 개선을 시도하였다.

이를 통해 각 세대(generation)에서 모집단을 형성할 때 이전 세대에서 확보된 우수한 개체의 유전적 특성을 완전히 혹은 부분적으로 보유한 개체만을 생성하는 구조를 설계하였다. 이렇게 개선된 알고리즘을 이전 알고리즘과 함께 최적화 문제에 적용하여 그 성능을 비교하는 실험을 진행하였다.

실제로 이전 알고리즘과 동등한 수준의 최적화를 달성하면서도 총 적합값 계산(fitness evaluation) 횟수를 기존의 2560회에서 432회로 단축하여 각 세대에서 요구하는 연산량이 최대 80% 감소하는 성능 향상을 입증하였다.

결과적으로 알고리즘 본연의 최적화 성능 하락을 방지함과 동시에 모집단의 규모를 2차적(quadratic)으로 축소함으로써 알고리즘의 연산 효율을 약 5배 끌어올리는데 성공하였다.

안창욱 교수는 “양자컴퓨터는 인공지능(AI), 신약, 에너지 개발 등을 비롯해 반도체 설계, 자율주행차 및 비행 경로 등 최적화 문제에 대한 답을 빠르게 찾아냄으로써 미래 산업과 안보 생태계 판도를 바꿀 것으로 예상된다”며 “이번 연구는 고전적 컴퓨터에 대한 관념을 벗어난 창의적인 접근을 통해 실질적인 성능의 개선을 이뤄냈으며, 향후 더욱 효과적인 양자 최적화 알고리즘의 개발로 이어질 수 있기를 기대한다”고 밝혔다.

한편, 이번 연구는 지스트 안창욱 교수가 지도하고 김준석 박사과정생이 수행하였으며, 연구 성과는 컴퓨터공학 이론 및 방법 분야 국제학술지 Future Generation Computer Systems에  '엄격하게 구조화된 양자 유전 알고리즘을 위한 크기 효율적인 희소 모집단(Size-Efficient Sparse Population for Strictly Structured Quantum Genetic Algorithm-보기)' 란 제목으로 지난달 20일 온라인 게재되었다.