변분 양자 고유값 계산(VQE): 하이브리드 양자-고전 최적화

개념 소개

VQE는 위상 추정 알고리즘(QPE)의 현실적 대안으로 제안된 양자-고전 하이브리드 방식이다. QPE는 기저 상태 에너지를 다항식 오차 이내로 구할 수 있지만, 매우 깊은 회로와 수천 개의 보조 큐비트를 요구하여 현재 하드웨어에서 실행이 불가능하다. VQE는 얕은 파라미터화 회로에서 기댓값을 측정하고, 그 결과를 고전 컴퓨터에서 최적화하는 루프를 반복함으로써 회로 깊이 요건을 대폭 낮춘다.

---

핵심 원리

변분 원리

리츠(Ritz) 변분 원리에 따르면, 임의의 정규화된 상태 $|\psi (\mathbf{\theta })⟩$에 대해 다음 부등식이 성립한다.

$$E_0\le ⟨\psi (\mathbf{\theta })|\hat{H}|\psi (\mathbf{\theta })⟩\equiv E(\mathbf{\theta })$$

$E_0$는 해밀토니안 $\hat{H}$의 최솟값 고유값(기저 상태 에너지)이다. 파라미터 $\mathbf{\theta }$를 변화시켜 $E(\mathbf{\theta })$를 최소화하면 $E_0$로 수렴하는 상한을 얻는다.

안사츠(Ansatz)

파라미터화된 유니터리 $U(\mathbf{\theta })$를 참조 상태 $|0{⟩}^{\otimes n}$에 적용하여 시도 상태를 생성한다.

$$|\psi (\mathbf{\theta })⟩=U(\mathbf{\theta })|0{⟩}^{\otimes n}$$

안사츠 설계는 VQE 정확도와 회로 비용 사이의 균형을 결정한다.

유형	특징
UCCSD	양자 화학적으로 동기 부여; 회로 깊이가 깊음
Hardware-efficient	하드웨어 토폴로지 맞춤; 얕은 깊이
ADAPT-VQE	필요한 연산자만 순차적으로 추가

해밀토니안의 파울리 분해

분자 해밀토니안은 파울리 연산자 텐서곱의 선형 결합으로 표현된다.

$$\hat{H}=\sum _k{c}_k{\hat{P}}_k,{\hat{P}}_k\in \{I,X,Y,Z{\}}^{\otimes n}$$

각 항 $⟨{\hat{P}}_k⟩$은 적절한 기저 변환 후 $Z$ 측정으로 추정하며, 에너지는 가중합으로 계산된다.

$$E(\mathbf{\theta })=\sum _k{c}_k⟨\psi (\mathbf{\theta })|{\hat{P}}_k|\psi (\mathbf{\theta })⟩$$

최적화 루프와 파라미터 이동 규칙

고전 최적화기로 COBYLA, SPSA, L-BFGS-B 등이 사용된다. 기울기가 필요한 경우, 파라미터 이동 규칙을 사용하면 양자 회로 상에서 해석적 기울기를 직접 계산할 수 있다.

$$\frac{\partial E}{\partial {\theta }_k}=\frac{E\left({\theta }_k+\frac{\pi }{2}\right)-E\left({\theta }_k-\frac{\pi }{2}\right)}{2}$$

유한 차분법과 달리 작은 $ϵ$ 선택에 의한 수치 오차가 없고, 노이즈가 있는 하드웨어에서도 동일하게 적용된다.

---

예시·응용

H₂ 분자의 기저 상태 에너지

수소 분자는 STO-3G 기저 함수와 Bravyi-Kitaev 변환 후 대칭 축소를 거치면 2큐비트 문제로 환원된다. 아래는 Qiskit 기반 구현 예시다.

from qiskit.circuit.library import TwoLocal
from qiskit.quantum_info import SparsePauliOp
from qiskit.primitives import StatevectorEstimator
from scipy.optimize import minimize
import numpy as np

# H₂ (STO-3G, 결합 거리 0.735 Å) 간략 해밀토니안
hamiltonian = SparsePauliOp.from_list([
    ("II", -1.0523732),
    ("ZI", +0.3979374),
    ("IZ", -0.3979374),
    ("ZZ", -0.0112801),
    ("XX", +0.1809312),
])

# Hardware-efficient 안사츠 (2큐비트, reps=1)
ansatz = TwoLocal(2, ["ry", "rz"], "cx", reps=1)
estimator = StatevectorEstimator()

def cost_fn(params):
    pub = (ansatz, hamiltonian, [params])
    return estimator.run([pub]).result()[0].data.evs[0].real

theta_init = np.random.uniform(-np.pi, np.pi, ansatz.num_parameters)
result = minimize(cost_fn, theta_init, method="COBYLA",
                  options={"maxiter": 500})

print(f"VQE 기저 에너지: {result.fun:.6f} Ha")
# 참값(FCI): -1.137270 Ha

수렴된 값은 완전 구성 상호작용(FCI) 참값 $-1.1373\text{Ha}$에 근접하며, 화학적 정밀도(chemical accuracy, $\approx 1.6\times 10^{-3}\text{Ha}$) 달성 여부가 실용적 기준이다.

주요 응용 분야

• 양자 화학: 퍼텐셜 에너지 곡면(PES), 반응 장벽 계산
• 강상관 물질: 허바드 모델, 격자 게이지 이론
• 조합 최적화: MAX-CUT 문제를 이징 해밀토니안으로 변환 후 최솟값 탐색

---

정리

VQE는 리츠 변분 원리를 토대로 파라미터화된 양자 회로와 고전 최적화기를 결합한 하이브리드 알고리즘이다. 해밀토니안을 파울리 항으로 분해하고, 각 항의 기댓값을 양자 장치에서 측정한 뒤 고전 최적화로 파라미터를 갱신하는 루프를 반복한다. 안사츠의 표현력·얽힘 능력과 바렌 고원(Barren Plateau) 회피 전략이 VQE 성능을 결정하는 핵심 요인이다.