Ericsson Canada·ÉTS, 소산 공학 VQA로 바렌 플래토 완화…통신망 라우팅 최적화 연구

연구 개요 및 과제 구성

이번 협력 연구의 공식 과제명은 "Toward Scalable Variational Quantum Algorithms: A Dissipative Approach to Mitigation and Optimization"이다. 캐나다 국가연구기관 Mitacs의 Accelerate 프로그램이 자금을 지원하며, ÉTS 소속 Jacob Biamonte 교수가 책임연구자로서 Ericsson Quantum Program 소속 연구진과 공동 연구를 이끈다. 대학원생과 박사후연구원들은 실물 양자 하드웨어 백엔드 및 디지털 에뮬레이터에서 직접 알고리즘을 실행하고 성능을 평가한다.

핵심 기술 과제: 바렌 플래토와 비결맞음 잡음

변분 양자 알고리즘은 NISQ(잡음 중간 규모 양자) 프로세서에서 실용적 우위를 보일 유력한 후보로 꼽히지만, 조합 최적화 문제에 적용할 때 두 가지 병목에 막힌다. 첫째는 바렌 플래토(barren plateau) 현상으로, 파라미터화된 양자 회로 훈련 과정에서 기울기가 지수적으로 소멸해 수렴 자체가 불가능해지는 문제다. 둘째는 하드웨어 회로 깊이가 늘어날수록 비결맞음 잡음이 축적돼 결과 충실도가 급격히 저하되는 현상이다.

연구팀은 앤사츠(ansatz) 설계 단계에서 제어된 소산 동역학을 도입하는 방법론을 탐구한다. 열린 양자계 이론과 소산 공학(dissipative engineering)을 활용해 고전-양자 하이브리드 최적화 루프에서 기울기 소멸을 사전에 차단하고, 최적화 궤적을 안정적으로 유지하겠다는 접근이다.

통신망 응용 범위

알고리즘 개발의 최종 적용 분야는 실제 통신 운용 영역이다. 연구팀이 겨냥하는 구체적 문제는 동적 라우팅(dynamic routing), 트래픽 스케줄링, 그리고 네트워크 전반의 자원 배분이다. ÉTS 연구진은 이 세 가지 문제에 대해 소산 기반 VQA의 성능을 고전 알고리즘 벤치마크와 직접 비교하는 실험을 수행할 예정이다.

몬트리올 양자 허브의 두 번째 과제, 한계도 남아

이번 협력은 Ericsson이 2022년 몬트리올에 설립한 양자 연구 허브를 통해 진행되는 두 번째 Mitacs 지원 학술 과제다. 첫 번째는 Université de Sherbrooke와 진행 중인 양자 통신 및 분산 처리 관련 협력이다. 퀘벡 내 복수 대학과의 산학 연구 네트워크를 점진적으로 확장하는 양상이다.

다만 현 단계에서는 NISQ 하드웨어의 큐비트 수와 결맞음 시간 제약이 알고리즘 확장성에 직접적인 한계로 작용한다. 소산 공학이 바렌 플래토를 실질적으로 완화할 수 있는지, 그 효과가 통신 규모의 실제 네트워크 문제까지 이어질지는 후속 실험 결과에 달려 있다.