변분 양자 고유값 계산(VQE): 하이브리드 양자-고전 알고리즘

개념 소개

변분 원리(Variational Principle)는 양자역학의 오래된 정리에서 출발한다. 임의의 시험 파동함수(trial wave function) $|\psi ⟩$에 대해 해밀토니안 $H$의 기댓값은 항상 바닥 상태 에너지 $E_0$ 이상임이 보장된다.

$$E_0\le ⟨\psi |H|\psi ⟩$$

VQE는 이 부등식을 활용한다. 파라미터 $\mathbf{\theta }$에 의존하는 양자 회로 $U(\mathbf{\theta })$로 시험 상태 $|\psi (\mathbf{\theta })⟩=U(\mathbf{\theta })|0⟩$를 준비하고, 기댓값 $⟨H⟩(\mathbf{\theta })$를 최소화하는 파라미터를 고전 컴퓨터로 탐색한다. 수렴 시 얻은 값이 $E_0$의 상한 추정치가 된다.

---

핵심 원리

1. 안사츠(Ansatz) 설계

파라미터화된 양자 회로를 안사츠라 부른다. 안사츠 선택은 VQE 성능을 결정하는 핵심 요소다.

• 화학적으로 영감받은 안사츠: UCCSD(Unitary Coupled Cluster Singles and Doubles)는 양자 화학의 결합 클러스터 이론을 양자 회로로 표현한다.

$$U_{UCCSD}(\mathbf{\theta })=e^{T(\mathbf{\theta })-T^{†}(\mathbf{\theta })}$$

여기서 $T=T_1+T_2$는 단일·이중 여기 연산자다.

• 하드웨어 효율적 안사츠(Hardware-Efficient Ansatz): 실제 소자 연결성을 고려해 회로 깊이를 줄인다. 표현력(expressibility)과 훈련 가능성(trainability) 사이의 트레이드오프가 존재한다.

2. 해밀토니안의 파울리 분해

해밀토니안을 파울리 연산자의 선형 결합으로 표현한다.

$$H=\sum _k{c}_k{P}_k,P_k\in \{I,X,Y,Z{\}}^{\otimes n}$$

각 파울리 항의 기댓값을 독립적으로 측정한 뒤 선형 결합하여 전체 에너지를 구한다.

$$⟨H⟩=\sum _k{c}_k⟨P_k⟩$$

3. 고전 최적화 루프

기댓값 $f(\mathbf{\theta })=⟨\psi (\mathbf{\theta })|H|\psi (\mathbf{\theta })⟩$를 목적 함수로 삼아 고전 최적화기를 적용한다. 주요 방법으로는 COBYLA, SPSA, 그리고 **파라미터 이동 규칙(Parameter Shift Rule)**을 이용한 그래디언트 기반 방법이 있다.

파라미터 이동 규칙:

$$\frac{\partial f}{\partial {\theta }_j}=\frac{f({\theta }_j+\pi /2)-f({\theta }_j-\pi /2)}{2}$$

이를 통해 해석적 그래디언트를 양자 회로 실행만으로 계산할 수 있다.

4. 바렌 고원 문제 (Barren Plateaus)

회로 깊이와 큐비트 수가 커질수록 그래디언트가 지수적으로 작아져 최적화가 불가능해지는 현상이다. 안사츠 구조, 초기화 전략, 국소 비용 함수 등을 통해 완화한다.

---

예시·응용

수소 분자(H₂) 바닥 상태 에너지 계산

Jordan-Wigner 변환을 통해 $H_2$의 전자 해밀토니안을 2큐비트 파울리 연산자로 표현하고, 간단한 안사츠로 VQE를 실행한다.

from qiskit.circuit import QuantumCircuit, Parameter
from qiskit.quantum_info import SparsePauliOp
from qiskit.primitives import StatevectorEstimator
from scipy.optimize import minimize
import numpy as np

# H2 해밀토니안 (STO-3G, R=0.735 Å, 단위: Hartree)
H = SparsePauliOp.from_list([
    ("II", -1.0523732),
    ("ZI", +0.3979374),
    ("IZ", -0.3979374),
    ("ZZ", -0.0112801),
    ("XX", +0.1809270),
])

# 2큐비트 안사츠
theta = Parameter("θ")
ansatz = QuantumCircuit(2)
ansatz.x(0)
ansatz.ry(theta, 1)
ansatz.cx(0, 1)

# VQE 루프
estimator = StatevectorEstimator()

def cost(params):
    job = estimator.run([(ansatz, H, params)])
    return job.result()[0].data.evs

result = minimize(cost, x0=[0.1], method="COBYLA",
                  options={"maxiter": 200})

print(f"바닥 상태 에너지 추정값: {result.fun:.6f} Hartree")
# 참값: -1.137270 Hartree

주요 응용 분야

분야	활용 예
양자 화학	분자 에너지면, 반응 경로 계산
재료 과학	강상관 전자계, 고온 초전도체 모델링
최적화	조합 최적화(QUBO 형식화 후 적용)
핵 구조 물리	핵 해밀토니안 고유값 문제

---

정리

VQE는 변분 원리를 양자-고전 하이브리드 구조로 구현하여, 완전 결함 허용 양자 컴퓨터 없이도 유용한 계산을 수행하려는 NISQ 시대의 핵심 알고리즘이다. 안사츠 설계, 해밀토니안 분해, 고전 최적화기 선택, 그리고 바렌 고원 회피 전략이 실용적 성능을 결정하는 네 가지 축이다. 양자 우위 달성 여부는 현재도 활발히 연구되고 있으며, 오류 완화 기법과의 결합이 근미래의 중요한 방향성으로 부상하고 있다.