변분 양자 고유값 계산(VQE): 하이브리드 양자-고전 최적화

개념 소개

VQE는 2014년 Peruzzo 등이 제안한 이후 NISQ 시대의 핵심 알고리즘 중 하나로 자리잡았다. 핵심 아이디어는 **변분 원리(variational principle)**를 양자 회로에 접목하는 것이다.

물리적 직관은 다음과 같다. 어떤 시도 상태(trial state) $|\psi (\mathbf{\theta })⟩$에 대해 해밀토니안 $H$의 기댓값은 항상 바닥 상태 에너지 $E_0$ 이상이다.

$$E(\mathbf{\theta })=⟨\psi (\mathbf{\theta })|H|\psi (\mathbf{\theta })⟩\ge E_0$$

따라서 $\mathbf{\theta }$를 조정하여 기댓값을 최소화하면 바닥 상태 에너지에 근접할 수 있다. 양자 컴퓨터는 기댓값 측정을 담당하고, 고전 컴퓨터는 $\mathbf{\theta }$의 갱신을 담당한다.

---

핵심 원리

1. 안사츠(Ansatz) 설계

안사츠는 매개변수 $\mathbf{\theta }=({\theta }_1,{\theta }_2,\dots ,{\theta }_p)$를 포함하는 유니터리 연산자 $U(\mathbf{\theta })$로 구성된 양자 회로이며, 초기 상태 $|0{⟩}^{\otimes n}$에 적용하여 시도 상태를 생성한다.

$$|\psi (\mathbf{\theta })⟩=U(\mathbf{\theta })|0{⟩}^{\otimes n}$$

대표적인 안사츠 두 가지:

• UCCSD(Unitary Coupled Cluster Singles and Doubles): 양자화학 기반의 물리적으로 동기화된 안사츠. 정밀도가 높으나 회로 깊이가 크다.
• 하드웨어 효율 안사츠(Hardware-Efficient Ansatz): 장치의 연결 위상에 맞게 설계하여 회로 깊이를 최소화한다.

2. 해밀토니안의 파울리 분해

분자 해밀토니안은 파울리 연산자의 가중합으로 변환된다(Jordan–Wigner 또는 Bravyi–Kitaev 변환).

$$H=\sum _k{c}_k\underset{j}{⨂}{P}_{k,j},P_{k,j}\in \{I,X,Y,Z\}$$

각 파울리 항의 기댓값은 독립적으로 측정·합산되므로, 한 번의 회로 실행으로 전체 기댓값을 얻는다.

3. 에너지 기울기 계산 — 매개변수 이동 규칙

기울기를 해석적으로 계산할 때는 **매개변수 이동 규칙(parameter-shift rule)**을 사용한다.

$$\frac{\partial E}{\partial {\theta }_k}=\frac{1}{2}\left[E\left({\theta }_k+\frac{\pi }{2}\right)-E\left({\theta }_k-\frac{\pi }{2}\right)\right]$$

이 기울기를 고전 최적화기(COBYLA, BFGS, Adam 등)에 공급하여 $\mathbf{\theta }$를 반복 갱신한다.

4. 전체 루프

초기화: θ 랜덤 설정
반복:
  1. 양자 회로 U(θ) 실행 → 파울리 기댓값 측정
  2. E(θ) = Σ c_k <P_k> 계산
  3. 고전 최적화기로 θ 갱신
수렴 시 E_min ≈ E_0 반환

---

예시·응용

H₂ 분자 바닥 상태 에너지 계산 (Qiskit 예시)

from qiskit.circuit.library import TwoLocal
from qiskit.quantum_info import SparsePauliOp
from qiskit.primitives import StatevectorEstimator
from scipy.optimize import minimize
import numpy as np

# H2 STO-3G 해밀토니안 (간략화된 파울리 표현)
H2_hamiltonian = SparsePauliOp.from_list([
    ("II", -1.0523732),
    ("ZI",  0.3979374),
    ("IZ", -0.3979374),
    ("ZZ", -0.0112801),
    ("XX",  0.1809312),
])

# 하드웨어 효율 안사츠 (2큐비트, 1레이어)
ansatz = TwoLocal(2, ["ry", "rz"], "cx", reps=1)
num_params = ansatz.num_parameters

# 에너지 함수
estimator = StatevectorEstimator()

def energy(params):
    bound = ansatz.assign_parameters(params)
    job = estimator.run([(bound, H2_hamiltonian)])
    return job.result()[0].data.evs.real

# 고전 최적화
theta0 = np.random.uniform(-np.pi, np.pi, num_params)
result = minimize(energy, theta0, method="COBYLA",
                  options={"maxiter": 500, "rhobeg": 0.5})

print(f"최적화 에너지: {result.fun:.6f} Hartree")
# 참값(FCI): -1.137270 Hartree

주요 응용 분야

분야	예시
양자화학	분자 바닥 상태·반응 에너지 계산
재료과학	강상관 전자계, 위상 재료 모델링
조합 최적화	QUBO 문제의 바닥 상태 탐색
핵물리	핵력 해밀토니안 고유 에너지

---

정리

VQE는 변분 원리를 양자-고전 루프로 구현한 알고리즘으로, NISQ 장치의 제한된 회로 깊이와 오류율 내에서 실용적인 성능을 목표로 한다. 성능은 안사츠의 표현력(expressibility)과 측정 오버헤드, 최적화 지형(barren plateau 문제)에 크게 의존한다. 향후 오류 완화(error mitigation) 기법 및 적응형 안사츠(ADAPT-VQE)와 결합하여 정밀도를 높이는 연구가 활발하다.