변분 양자 고유값 계산법(VQE): 원리와 구현

VQE(Variational Quantum Eigensolver)는 변분 원리를 기반으로 파라미터화된 양자 회로와 고전 최적화기를 결합한 하이브리드 알고리즘이다. NISQ 장치의 물리적 제약 내에서 분자 바닥 상태 에너지와 같은 양자화학 문제를 근사적으로 풀 수 있으며, 현재 양자컴퓨팅 응용 연구의 핵심 알고리즘 중 하나로 자리잡고 있다.

개념 소개

양자역학의 변분 원리(variational principle)는 임의의 규격화된 상태 $∣ ψ ⟩$ 에 대해 해밀토니안 $H$ 의 기댓값이 항상 바닥 상태 에너지 $E_{0}$ 이상임을 보장한다.

$E_{0} \leq ⟨ ψ ∣ H ∣ ψ ⟩ \equiv E [ψ]$

VQE는 이 부등식을 최적화 목표로 삼는다. 파라미터 벡터 $θ$ 로 제어되는 양자 회로(앤사츠, ansatz)로 $∣ ψ (θ)⟩$ 을 준비하고, 고전 컴퓨터가 에너지 기댓값 $E (θ)$ 를 최소화하는 $θ^{*}$ 를 탐색한다. 깊은 회로 실행이 어려운 현재의 NISQ 환경에서, 회로 깊이를 제한하면서도 유용한 결과를 얻을 수 있다는 점이 핵심 동기다.

핵심 원리

앤사츠 설계

앤사츠는 힐베르트 공간의 탐색 부분집합을 결정하며, 알고리즘의 정확도와 회로 깊이 사이의 트레이드오프를 결정한다. 대표적인 두 계열은 다음과 같다.

UCC(Unitary Coupled Cluster): 양자화학의 결합 클러스터 이론에서 유도한 앤사츠. UCCSD(Singles and Doubles)가 정확도 면에서 우수하나 회로가 깊어진다.
하드웨어 효율적 앤사츠(HEA): 대상 하드웨어의 물리적 연결성을 따라 설계하여 회로 깊이를 최소화한다.

해밀토니안의 파울리 분해

분자 해밀토니안은 파울리 연산자의 텐서곱 항들의 선형결합으로 분해된다.

$H = k \sum c_{k} \hat{P}_{k}, \hat{P}_{k} \in {I, X, Y, Z}^{\otimes n}$

전체 에너지 기댓값은 각 파울리 항의 기댓값을 독립 측정하여 합산한다.

$E (θ) = k \sum c_{k} ⟨ ψ (θ) ∣ \hat{P}_{k} ∣ ψ (θ)⟩$

파울리 항의 수는 분자 크기에 따라 $O (N^{4})$ 로 증가하므로, 측정 그룹화(measurement grouping) 전략이 실용적으로 중요하다.

파라미터 이동 규칙과 최적화

기울기 기반 최적화에는 **파라미터 이동 규칙(parameter-shift rule)**이 자주 사용된다. 이 규칙은 해석적 기울기를 실제 양자 회로 실행으로 계산할 수 있게 한다.

$\frac{\partial E}{\partial θ _{i}} = \frac{1}{2} [E (θ_{i} + \frac{π}{2}) - E (θ_{i} - \frac{π}{2})]$

기울기 없는 방법(COBYLA, SPSA)도 널리 쓰이며, 측정 잡음이 클 때 상대적으로 안정적이다.

예시·응용

H₂ 분자의 바닥 상태 에너지 계산

수소 분자( $H_{2}$ )는 VQE의 표준 벤치마크다. STO-3G 기저에서 조르당-위그너(Jordan-Wigner) 변환 후 4큐비트 해밀토니안이 되며, 패리티 변환과 대칭성 축소를 적용하면 2큐비트로 줄일 수 있다.

아래는 Qiskit 기반의 개념적 구현이다.

from qiskit.circuit.library import TwoLocal
from qiskit.quantum_info import SparsePauliOp
from qiskit.primitives import Estimator
from scipy.optimize import minimize
import numpy as np

# 단순화된 2큐비트 H2 해밀토니안 (STO-3G, 결합 거리 0.735 Å)
H = SparsePauliOp.from_list([
    ("II", -1.0523),
    ("ZI",  0.3979),
    ("IZ", -0.3979),
    ("ZZ", -0.0112),
    ("XX",  0.1809),
])

# 하드웨어 효율적 앤사츠
ansatz = TwoLocal(2, ["ry", "rz"], "cx", reps=1)

estimator = Estimator()

def cost_fn(params):
    job = estimator.run(ansatz, H, parameter_values=[params])
    return job.result().values[0]

# COBYLA로 최적화
init_params = np.random.uniform(-np.pi, np.pi, ansatz.num_parameters)
result = minimize(cost_fn, init_params, method="COBYLA",
                  options={"maxiter": 500})
print(f"추정 바닥 상태 에너지: {result.fun:.6f} Hartree")
# 참값(FCI): -1.137270 Hartree

주요 응용 분야

양자화학: 반응 에너지 계산, 결합 해리 곡선, 전이 상태 탐색
재료과학: 허바드(Hubbard) 모델, 자성체 바닥 상태 탐색
최적화: 이징 해밀토니안으로 변환된 조합 최적화 문제

정리

VQE는 변분 원리, 파라미터화된 양자 회로, 고전 최적화기를 유기적으로 결합하여 NISQ 장치에서 실행 가능한 실용적 알고리즘이다. 그러나 규모 확장 시 다음 한계가 부각된다.

바렌 플래토(barren plateau): 무작위 초기화 및 전역 앤사츠에서 기울기가 큐비트 수에 대해 지수적으로 소실된다.
측정 비용: 파울리 항 수의 다항식적 증가로 통계적 정확도 확보에 많은 샷(shot)이 필요하다.
지역 최솟값: 비볼록 손실 함수로 인해 전역 최적해 수렴이 보장되지 않는다.

이를 극복하기 위해 적응형 앤사츠(ADAPT-VQE), 오류 경감 기법, 측정 그룹화 등이 활발히 연구되고 있다.

연습문제

Q1.변분 원리 $E_0 \leq \langle \psi | H | \psi \rangle$가 성립함을 $H$의 고유값 분해를 이용하여 증명하라.

힌트 보기

$H$의 고유벡터 $\{|n\rangle\}$로 $|\psi\rangle$를 전개하고, 계수의 확률 해석을 활용한다.

해설 보기

Q2.파라미터 이동 규칙 $\frac{\partial E}{\partial \theta_i} = \frac{1}{2}[E(\theta_i+\frac{\pi}{2}) - E(\theta_i-\frac{\pi}{2})]$는 회로 내 해당 게이트가 $e^{-i\theta_i G}$ 형태($G$는 파울리 연산자)일 때 적용된다. 이 조건이 필요한 이유를 설명하고, 조건이 만족되지 않을 경우의 대안을 제시하라.

해설 보기

파라미터 이동 규칙은 기댓값이 $\theta_i$에 대해 $a\sin(\theta_i + b)$ 형태의 삼각함수임을 이용한다. 이 형태는 생성자 $G$의 고유값이 $\pm\frac{1}{2}$인 경우(즉, $G$가 파울리 연산자)에만 성립한다. 조건이 만족되지 않을 때(예: 다중 고유값)는 일반화된 파라미터 이동 규칙을 사용하거나, 유한 차분법(finite difference), 또는 기울기 없는 SPSA·COBYLA 방법을 대안으로 활용한다.

Q3.동일한 분자 시스템에 대해 UCC 앤사츠와 하드웨어 효율적 앤사츠(HEA)를 비교할 때, 각각의 장단점을 정확도·회로 깊이·훈련 가능성 측면에서 서술하라.

해설 보기

UCC 앤사츠는 양자화학 이론에 근거하므로 물리적 표현력이 높고 정확도가 우수하다. 그러나 UCCSD의 경우 게이트 수가 $O(N^4)$로 증가하여 현재 하드웨어에서는 오류 누적이 심각하다. 바렌 플래토 문제도 상대적으로 덜하다. HEA는 하드웨어 연결성에 맞춰 회로 깊이를 최소화하므로 현재 장치에서 실행 가능하지만, 물리적 동기가 없어 지역 최솟값에 빠지기 쉽고 표현력이 부족할 수 있다. 또한 층수가 증가하면 바렌 플래토 문제가 심화된다. 실용에서는 ADAPT-VQE처럼 물리적 동기와 회로 효율을 절충하는 적응형 방식이 주목받고 있다.

개념 소개

핵심 원리

앤사츠 설계

해밀토니안의 파울리 분해

파라미터 이동 규칙과 최적화

예시·응용

H₂ 분자의 바닥 상태 에너지 계산

주요 응용 분야

정리

연습문제

관련 용어