변분 양자 고유값 계산기(VQE): 이론과 구현

개념 소개

양자화학에서 분자의 기저 상태 에너지를 정확히 계산하는 것은 약물 설계, 재료 과학 등 여러 분야의 핵심 과제다. 고전 컴퓨터로 이를 정확히 계산하려면 힐베르트 공간의 차원이 전자 수에 따라 지수적으로 증가해 현실적 한계에 부딪힌다. VQE는 이 문제를 해결하기 위해 Peruzzo 등이 제안한 하이브리드 양자-고전 알고리즘이다.

핵심 아이디어는 **변분 원리(variational principle)**에 있다. 임의의 시험 상태 $|\psi (\mathbf{\theta })⟩$에 대해 해밀토니안 $H$의 기대값은 항상 기저 상태 에너지 $E_0$ 이상이다.

$$E_0\le ⟨\psi (\mathbf{\theta })|H|\psi (\mathbf{\theta })⟩\equiv C(\mathbf{\theta })$$

따라서 매개변수 $\mathbf{\theta }$를 조정해 비용 함수 $C(\mathbf{\theta })$를 최소화하면 $E_0$에 수렴한다.

---

핵심 원리

1. 파라미터화 양자 회로 (Ansatz)

Ansatz는 파라미터 $\mathbf{\theta }=({\theta }_1,\dots ,{\theta }_p)$로 구성된 양자 회로로, $|\psi (\mathbf{\theta })⟩=U(\mathbf{\theta })|0{⟩}^{\otimes n}$ 형태의 시험 상태를 생성한다.

• 화학적으로 영감받은 Ansatz: UCCSD(Unitary Coupled Cluster Singles and Doubles)는 양자화학 이론에 기반해 표현력이 높으나 회로 깊이가 깊다.
• 하드웨어 효율적 Ansatz (HEA): 단층 회전 게이트와 얽힘 게이트를 교번 배치해 회로 깊이를 줄인다. NISQ 장치에 적합하다.

2. 해밀토니안의 파울리 분해

양자 회로에서 $H$의 기대값을 측정하려면 $H$를 파울리 연산자의 텐서곱으로 분해해야 한다.

$$H=\sum _k{c}_k{\hat{P}}_k,{\hat{P}}_k\in \{I,X,Y,Z{\}}^{\otimes n}$$

분해된 각 항의 기대값을 반복 측정으로 추정한 뒤 선형 결합해 $C(\mathbf{\theta })$를 구성한다.

3. 고전 최적화 루프와 파라미터-이동 규칙

측정으로 얻은 $C(\mathbf{\theta })$를 고전 최적화기(COBYLA, SPSA, Adam 등)에 전달해 $\mathbf{\theta }$를 갱신한다. 파울리 회전 게이트로 구성된 회로에서는 **파라미터-이동 규칙(parameter-shift rule)**으로 해석적 기울기를 계산할 수 있다.

$$\frac{\partial C}{\partial {\theta }_k}=\frac{1}{2}\left[C\left(\mathbf{\theta }+\frac{\pi }{2}{\hat{e}}_k\right)-C\left(\mathbf{\theta }-\frac{\pi }{2}{\hat{e}}_k\right)\right]$$

이동 크기 $\pi /2$는 파울리 연산자의 고유값이 $\pm 1$인 스펙트럼 구조에서 직접 유도된다.

---

예시·응용

수소 분자(${\text{H}}_2$) 기저 상태 에너지 계산

STO-3G 기저 함수와 Jordan-Wigner 변환을 적용하면 ${\text{H}}_2$의 해밀토니안은 파울리 항의 선형 결합으로 표현된다. 아래는 Qiskit을 이용한 개념적 구현 예시다.

from qiskit.circuit import QuantumCircuit, Parameter
from qiskit.quantum_info import SparsePauliOp
import numpy as np
from scipy.optimize import minimize

# H2 해밀토니안 (단순화, 단위: 하트리)
H = SparsePauliOp.from_list([
    ("II", -1.0523732),
    ("ZI", +0.3979374),
    ("IZ", -0.3979374),
    ("ZZ", -0.0112801),
    ("XX", +0.1809270),
])

# 2큐비트 HEA Ansatz
theta = [Parameter(f"θ{i}") for i in range(4)]
qc = QuantumCircuit(2)
qc.ry(theta[0], 0); qc.ry(theta[1], 1)
qc.cx(0, 1)
qc.ry(theta[2], 0); qc.ry(theta[3], 1)

def cost(params):
    bound = qc.assign_parameters(dict(zip(theta, params)))
    # Estimator 프리미티브로 기대값 계산 (실제 구현 필요)
    return estimate_expectation(bound, H)

result = minimize(cost, x0=np.zeros(4), method="COBYLA")
print(f"기저 상태 에너지 추정값: {result.fun:.6f} 하트리")

주요 응용 분야

• 양자화학: 분자 기저 상태 에너지, 반응 경로, 전자 구조 계산
• 재료 과학: 강상관 전자계 모델(허바드 모델) 시뮬레이션
• 조합 최적화: QUBO 문제를 이징 해밀토니안으로 변환 후 VQE 적용

---

정리

VQE는 변분 원리를 매개로 양자 회로와 고전 최적화기를 결합한 NISQ 시대의 핵심 알고리즘이다. Ansatz 설계, 파울리 분해, 파라미터-이동 규칙 기반 기울기 계산이 세 축을 이룬다. 그러나 바렌 고원(barren plateau) 문제와 샷 노이즈로 인한 수렴 속도 저하는 현재의 주요 연구 과제로 남아 있으며, 지역 비용 함수 설계나 층별 순차 학습 등의 완화 전략이 활발히 탐구되고 있다.