개념 소개
변분 양자 고유값 계산기(Variational Quantum Eigensolver, VQE)는 양자 프로세서가 기대값 측정을 담당하고 고전 컴퓨터가 매개변수 최적화를 담당하는 혼합(hybrid) 알고리즘이다. 핵심 목표는 주어진 해밀토니안 의 최소 고유값, 즉 기저 상태 에너지 를 추정하는 것이다.
완전 양자 알고리즘인 QPE는 오류 정정이 구현된 대규모 큐비트를 필요로 하지만, VQE는 노이즈가 있는 현재 하드웨어에서도 동작할 만큼 얕은 회로로 설계할 수 있다는 점에서 실용적 의의가 크다.
핵심 원리
변분 원리
양자역학의 변분 원리에 따르면, 임의의 시험 상태 에 대해 해밀토니안 기대값은 언제나 기저 상태 에너지 이상이다.
등호는 이 정확히 기저 상태 일 때 성립한다. VQE는 매개변수 를 조정해 이 상한을 점차 낮춤으로써 에 수렴한다.
앤사츠(Ansatz)
매개변수화된 양자 회로 를 앤사츠라 하며, 기저 상태 에 작용해 시험 상태를 생성한다.
앤사츠의 선택은 알고리즘 성능을 결정짓는 핵심 설계 요소다.
| 종류 | 특징 |
|---|---|
| 하드웨어 효율적 앤사츠(HEA) | 실제 연결성에 맞춘 얕은 회로, 범용성 높음 |
| UCCSD 앤사츠 | 단일·이중 들뜸 기반, 화학 특화, 회로 깊이 큼 |
| 적응형 앤사츠(ADAPT-VQE) | 풀에서 연산자를 탐욕적으로 추가, 표현력·효율성 균형 |
비용 함수 측정
양자 컴퓨터는 를 직접 측정할 수 없으므로, 해밀토니안을 파울리 문자열의 선형 결합으로 분해한다.
각 파울리 항의 기대값을 반복 측정(샷)으로 추정하고 가중합을 구해 전체 에너지를 계산한다.
매개변수 경사도: 파라미터 이동 규칙
경사 기반 최적화에는 파라미터 이동 규칙(parameter-shift rule)이 자주 사용된다.
이 규칙은 유한 차분이 아닌 정확한 해석적 경사도를 양자 회로 실행만으로 계산할 수 있게 한다.
최적화 루프
① 현재 θ 로 앤사츠 실행 → E(θ) 추정
② 고전 최적화기(COBYLA, SPSA, Adam …)가 θ 갱신
③ 수렴 기준 만족 시 종료, 아니면 ①로 복귀
예시·응용
수소 분자(H₂) 기저 상태 에너지 추정
STO-3G 기저 함수와 Jordan-Wigner 변환을 적용하면 H₂ 해밀토니안을 2큐비트 파울리 항으로 표현할 수 있다. 아래는 Qiskit을 활용한 구현 예시다.
from qiskit.circuit import QuantumCircuit, Parameter
from qiskit.quantum_info import SparsePauliOp, Statevector
import numpy as np
from scipy.optimize import minimize
# H2 해밀토니안 (STO-3G 최소 기저, 단위: Hartree)
H = SparsePauliOp.from_list([
("II", -1.0523732),
("IZ", 0.3979374),
("ZI", -0.3979374),
("ZZ", -0.0112801),
("XX", 0.1809312),
])
# 1매개변수 앤사츠: RY 회전 + CNOT
theta = Parameter("θ")
ansatz = QuantumCircuit(2)
ansatz.ry(theta, 0)
ansatz.cx(0, 1)
def cost(params):
bound = ansatz.assign_parameters({theta: params[0]})
sv = Statevector(bound)
return sv.expectation_value(H).real # 시뮬레이터 기반 정확 계산
result = minimize(cost, x0=[0.5], method="COBYLA",
options={"maxiter": 500, "rhobeg": 0.1})
print(f"VQE 추정 에너지: {result.fun:.6f} Ha")
print(f"참값 (FCI): -1.137270 Ha")
실행하면 단 하나의 매개변수와 2큐비트 회로로 화학적 정확도( Ha) 근방의 결과를 얻을 수 있다.
주요 응용 분야
- 양자 화학: 분자 퍼텐셜 에너지 면(PES) 계산, 반응 경로 해석, 촉매 설계
- 물질 과학: 강상관 전자계(허바드 모델), 자성체 기저 상태
- 조합 최적화: 이징 모델로 인코딩된 NP-난해 문제의 기저 상태 탐색
실용적 도전 과제
| 문제 | 설명 |
|---|---|
| 바렌 고원(Barren Plateau) | 큐비트 수 증가 시 경사도 분산이 지수적으로 감소해 최적화 정체 |
| 측정 노이즈 | 유한 샷과 하드웨어 노이즈가 에너지 추정 정밀도를 제한 |
| 앤사츠 표현력 부족 | 시험 공간이 기저 상태를 포함하지 못하면 수렴 불가 |
| 국소 최솟값 | 비볼록 최적화 지형으로 인해 전역 최솟값 보장 어려움 |
정리
VQE는 변분 원리, 매개변수화 양자 회로, 고전 최적화기라는 세 요소의 긴밀한 결합을 통해 NISQ 하드웨어에서 기저 상태 에너지를 추정한다. 앤사츠 설계가 표현력과 회로 깊이 사이의 트레이드오프를 결정하며, 파라미터 이동 규칙은 정확한 경사도 계산을 가능하게 한다. 바렌 고원·측정 오차·표현력 한계 등 현실적 제약을 이해하고 이를 극복하는 설계 전략—적응형 앤사츠, 오류 완화(error mitigation), 구조적 초기화—이 VQE 연구의 핵심 과제로 남아 있다.
Exercises
연습문제
Q1변분 원리에 따르면 임의의 시험 상태 $|\psi\rangle$에 대해 $\langle\psi|H|\psi\rangle \geq E_0$임을 증명하라. (단, $H$의 고유값은 $E_0 \leq E_1 \leq \cdots$이고, 고유벡터 $\{|E_k\rangle\}$는 완전 정규 직교 기저를 이룬다.)
힌트 보기
$|\psi\rangle$을 고유기저로 전개한 뒤, 각 계수의 제곱합이 1임을 활용한다.
해설 보기
$|\psi\rangle = \sum_k c_k |E_k\rangle$로 전개하면 $\langle\psi|H|\psi\rangle = \sum_k |c_k|^2 E_k$. 모든 $E_k \geq E_0$이고 $\sum_k|c_k|^2=1$이므로, $\sum_k|c_k|^2 E_k \geq E_0 \sum_k|c_k|^2 = E_0$. 등호는 $c_k = \delta_{k,0}$, 즉 $|\psi\rangle = |E_0\rangle$일 때 성립한다.
Q2파라미터 이동 규칙 $\partial E/\partial\theta_k = \bigl[E(\theta_k+\pi/2)-E(\theta_k-\pi/2)\bigr]/2$가 성립하는 조건은 무엇인가? 또한 이 규칙이 유한 차분 방법과 다른 점을 설명하라.
힌트 보기
앤사츠에 포함된 게이트의 생성자(generator) 고유값과 스펙트럼을 확인한다.
해설 보기
파라미터 이동 규칙은 해당 파라미터가 고유값이 $\pm 1/2$인 생성자(예: 파울리 회전 게이트 $R_P(\theta)=e^{-i\theta P/2}$)에 의해 도입될 때 정확히 성립한다. 유한 차분은 $\Delta\theta \to 0$ 극한의 근사이므로 스텝 크기에 따라 오차가 발생하지만, 파라미터 이동 규칙은 고정된 두 지점($\pm\pi/2$)에서의 측정만으로 **정확한** 경사도를 얻는다. 단, 생성자의 스펙트럼이 두 개를 초과하는 경우에는 일반화된 이동 규칙이 필요하다.
Q3VQE에서 바렌 고원(Barren Plateau)이 발생하는 이유를 설명하고, 이를 완화하기 위한 전략을 두 가지 이상 제시하라.
해설 보기
무작위로 초기화된 깊은 앤사츠에서 $n$큐비트 시스템의 경사도 분산은 $\text{Var}[\partial E/\partial\theta_k] = O(2^{-n})$으로 지수적으로 감소한다. 이는 랜덤 회로가 유니터리 군에서 2-설계(2-design)에 가까워지며 기대값이 거의 상수가 되는 현상에 기인한다. 완화 전략: ① **구조적 앤사츠 사용**(UCCSD, ADAPT-VQE)—물리적 선험 지식으로 탐색 공간 제한; ② **층 단위 순차 학습**(layer-by-layer training)—얕은 회로부터 순차적으로 최적화해 초기 경사도 확보; ③ **상관된 초기화**—Identity 블록으로 초기 매개변수 설정해 경사도 소멸 방지; ④ **국소 비용 함수 사용**—전역 측정 대신 부분계 측정으로 바렌 고원 회피.
관련 용어
