변분 양자 고유값 계산기(VQE): 원리와 구현

개념 소개

VQE는 주어진 해밀토니안 $H$의 기저 상태(ground state) 에너지 $E_0$를 구하는 하이브리드 양자-고전 알고리즘이다. 완전한 양자 위상 추정(QPE)은 깊은 회로와 다수의 보조 큐비트를 요구하므로 현재의 NISQ(Noisy Intermediate-Scale Quantum) 장치에서 실행이 어렵다. VQE는 이 한계를 우회해 얕은 회로로 바닥 상태 에너지를 근사한다.

---

핵심 원리

변분 원리

양자역학의 변분 원리에 따르면, 임의의 시도 상태 $|\psi ⟩$에 대해 다음 부등식이 항상 성립한다.

$$E(\theta )=⟨\psi (\theta )|H|\psi (\theta )⟩\ge E_0$$

어떤 시도 상태의 에너지 기댓값도 바닥 상태 에너지보다 낮을 수 없다. VQE는 매개변수 $\theta$를 조정하며 $E(\theta )$를 최소화함으로써 $E_0$에 점근한다.

앤사츠(Ansatz)

매개변수화된 양자 회로 $U(\theta )$를 앤사츠라 부른다. 초기 상태에 앤사츠를 적용하여 시도 상태를 준비한다.

$$|\psi (\theta )⟩=U(\theta )|0{⟩}^{\otimes n}$$

앤사츠 설계는 VQE 성능에 결정적 영향을 미친다.

앤사츠 유형	특징
UCCSD	화학적 직관 기반, 표현력 높음, 회로 깊이 큼
RyRz 반복층	하드웨어 효율적, 범용
QAOA층	조합 최적화 문제에 적합

에너지 기댓값 측정

해밀토니안은 파울리 연산자의 선형 결합으로 분해된다.

$$H=\sum _k{c}_k{P}_k,P_k\in \{I,X,Y,Z{\}}^{\otimes n}$$

각 파울리 항의 기댓값을 반복 측정·합산하여 $E(\theta )$를 추정한다.

$$E(\theta )=\sum _k{c}_k⟨\psi (\theta )|P_k|\psi (\theta )⟩$$

고전 최적화 루프

측정된 $E(\theta )$를 고전 최적화기(COBYLA, SPSA, Adam 등)에 전달하고, 최적화기가 새로운 $\theta$를 제안하는 과정을 반복한다.

초기화: θ = θ₀
반복:
  1. 양자 회로 실행: |ψ(θ)⟩ 준비
  2. 측정: E(θ) 추정
  3. 고전 최적화: θ ← optimizer(E, θ)
  4. 수렴 조건 확인
출력: E_min ≈ E₀

---

예시·응용

H₂ 분자 바닥 상태 에너지

수소 분자(H₂)의 바닥 상태 에너지 계산은 VQE의 표준 벤치마크다. Jordan-Wigner 변환을 통해 페르미온 해밀토니안을 파울리 연산자로 변환하면 2~4 큐비트 문제로 축소된다. 아래는 Qiskit을 활용한 개념적 구현 예시다.

from qiskit.circuit import QuantumCircuit, ParameterVector
from qiskit.quantum_info import SparsePauliOp
from scipy.optimize import minimize
import numpy as np

# 1. 해밀토니안 정의 (H₂ 단순화 모델)
H = SparsePauliOp.from_list([
    ("II", -1.0523),
    ("ZZ",  0.3979),
    ("ZI", -0.3980),
    ("IZ",  0.3980),
    ("XX",  0.1809),
])

# 2. RyRz 앤사츠 (2 큐비트, 2층)
theta = ParameterVector("θ", length=4)
qc = QuantumCircuit(2)
qc.ry(theta[0], 0); qc.ry(theta[1], 1)
qc.cx(0, 1)
qc.ry(theta[2], 0); qc.ry(theta[3], 1)

# 3. 에너지 함수 (시뮬레이터 기댓값 계산은 생략)
def energy(params):
    bound = qc.assign_parameters(params)
    return expectation_value(bound, H)  # 실제 구현 시 Estimator 사용

result = minimize(energy, x0=np.random.rand(4), method="COBYLA")
print(f"추정 바닥 상태 에너지: {result.fun:.4f} Hartree")

주요 응용 분야

• 양자 화학: 분자 에너지, 반응 경로, 결합 해리 곡선 계산
• 재료 과학: 격자 해밀토니안 시뮬레이션, 위상 물질 특성 분석
• 조합 최적화: QUBO 문제를 Ising 해밀토니안으로 인코딩하여 최솟값 탐색

---

정리

VQE는 변분 원리, 앤사츠, 고전 최적화기를 결합한 NISQ 적합 하이브리드 알고리즘이다. 그러나 바렌 플래토(Barren Plateau) 문제(깊은 앤사츠에서 기울기 지수적 소실), 파울리 항 측정에 따른 높은 샷(shot) 비용, 잡음에 의한 에너지 편향이 주요 난제로 남아 있다. 앤사츠 설계 전략, 측정 효율화, 오류 완화(Error Mitigation) 기법과의 결합이 현재 활발히 연구되는 방향이다.