변분 양자 고유값 계산기(VQE): 하이브리드 양자-고전 알고리즘

개념 소개

VQE는 양자 위상 추정(QPE)처럼 긴 결맞음 시간을 요구하는 대신, 얕은 파라미터화 회로와 고전 최적화기를 결합하여 해밀토니안 $\hat{H}$의 최솟값 고유값(바닥 상태 에너지 $E_0$)을 구한다. 아이디어의 출발점은 변분 원리다.

임의의 정규화된 시험 상태 $|\psi ⟩$에 대해 항상

$$⟨\psi |\hat{H}|\psi ⟩\ge E_0$$

이 성립한다. 따라서 파라미터 $\mathbf{\theta }$로 제어되는 양자 회로가 만드는 상태 $|\psi (\mathbf{\theta })⟩$의 에너지 기댓값을 최소화하면 $E_0$에 수렴할 수 있다.

---

핵심 원리

1. 변분 부등식의 엄밀한 유도

$\hat{H}$의 고유 에너지를 $E_0\le E_1\le \cdots$, 고유 상태를 $\{|E_n⟩\}$이라 하면,

$$⟨\psi (\mathbf{\theta })|\hat{H}|\psi (\mathbf{\theta })⟩=\sum _n|⟨E_n|\psi (\mathbf{\theta })⟩{|}^2{E}_n\ge E_0$$

등호는 $|\psi (\mathbf{\theta })⟩=|E_0⟩$일 때 성립한다.

2. 안사츠(Ansatz) 설계

파라미터화된 유니터리 $U(\mathbf{\theta })$를 통해 시험 상태를 생성한다.

$$|\psi (\mathbf{\theta })⟩=U(\mathbf{\theta })|0{⟩}^{\otimes n}$$

안사츠 유형 선택은 표현력·깊이·노이즈 민감도 사이의 트레이드오프를 결정한다.

유형	특징
UCCSD	결합 클러스터 이론 기반 물리 동기 안사츠, 회로 깊이가 깊음
하드웨어 효율적(HEA)	장치 연결성에 맞춘 얕은 회로, 노이즈에 강함
ADAPT-VQE	연산자 풀에서 기울기 크기 순으로 게이트를 동적 추가

3. 해밀토니안의 파울리 분해

분자 해밀토니안을 파울리 연산자의 선형 결합으로 변환한다.

$$\hat{H}=\sum _k{c}_k{P}_k,P_k\in \{I,X,Y,Z{\}}^{\otimes n}$$

에너지 기댓값은 각 항을 개별 측정하여 합산한다.

$$E(\mathbf{\theta })=\sum _k{c}_k⟨\psi (\mathbf{\theta })|P_k|\psi (\mathbf{\theta })⟩$$

4. 파라미터 이동 규칙

기울기 기반 최적화를 사용할 때, 회로 내 회전 게이트 $e^{-i{\theta }_{k}G}$ ($G$는 파울리 연산자)의 편미분은 추가 회로 실행만으로 해석적으로 계산된다.

$$\frac{\partial E}{\partial {\theta }_k}=\frac{E\left({\theta }_k+\frac{\pi }{2}\right)-E\left({\theta }_k-\frac{\pi }{2}\right)}{2}$$

고전 수치 미분 없이 하드웨어에서 그대로 실행 가능하다는 점이 핵심이다.

---

예시·응용

수소 분자 ${\text{H}}_2$ 기저 상태 에너지 (Qiskit 예시)

from qiskit.circuit.library import TwoLocal
from qiskit.quantum_info import SparsePauliOp
from qiskit.primitives import StatevectorEstimator
from scipy.optimize import minimize
import numpy as np

# STO-3G 기저의 H2 해밀토니안 (단순화)
hamiltonian = SparsePauliOp.from_list([
    ("II", -1.0523732),
    ("ZI",  0.3979374),
    ("IZ", -0.3979374),
    ("ZZ", -0.0112801),
    ("XX",  0.1809270),
])

ansatz = TwoLocal(2, ["ry", "rz"], "cx", reps=1)
estimator = StatevectorEstimator()

def cost(params):
    job = estimator.run([(ansatz, hamiltonian, params)])
    return float(job.result()[0].data.evs)

init = np.random.uniform(0, 2 * np.pi, ansatz.num_parameters)
res = minimize(cost, init, method="COBYLA",
               options={"maxiter": 500})
print(f"바닥 상태 에너지: {res.fun:.6f} Hartree")
# 참값: -1.137270 Hartree

주요 응용 분야

• 양자화학: 분자 기저 상태 에너지, 전이 상태, 분자 스펙트럼 계산
• 재료과학: Hubbard 모델, 강상관 전자 시스템 시뮬레이션
• 조합 최적화: QAOA와 함께 MaxCut, 포트폴리오 최적화에 적용

현재의 한계

• 바렌 고원(Barren Plateau): 큐비트 수 증가 시 기울기가 지수적으로 감소하여 최적화가 어려워진다.
• 측정 비용: 파울리 항 수 $O(n^4)$에 비례하는 측정 횟수가 필요하다.
• 노이즈: 실제 하드웨어에서 에너지 기댓값에 계통 오차가 발생한다.

---

정리

VQE는 변분 원리를 하이브리드 구조로 구현한 알고리즘으로, 양자 하드웨어의 역할을 기댓값 추정기로 한정함으로써 NISQ 장치에서 실행 가능성을 확보한다. 안사츠 선택, 파라미터 이동 규칙을 통한 기울기 계산, 파울리 분해 기반 측정이 세 가지 핵심 구성 요소다. 바렌 고원과 측정 비용 문제가 남아 있으나, 오류 완화 기법·ADAPT-VQE·양자 자연 기울기(QNG) 등의 발전과 함께 분자 시뮬레이션에서 고전 한계를 돌파하기 위한 연구가 활발히 진행 중이다.