변분 양자 고유값 계산(VQE): 하이브리드 양자-고전 알고리즘

VQE(Variational Quantum Eigensolver)는 파라미터화 양자 회로와 고전 최적화기를 결합하여 해밀토니안의 바닥 상태 에너지를 근사하는 하이브리드 알고리즘이다. 변분 원리를 수치 최적화로 구현하며, 비교적 얕은 회로 깊이로 동작하여 NISQ 장치에서 실행 가능한 대표적 알고리즘으로 양자 화학과 물질 시뮬레이션에 폭넓게 활용된다.

개념 소개

VQE는 주어진 해밀토니안 $\hat{H}$ 의 최소 고유값(바닥 상태 에너지) $E_{0}$ 를 근사 계산하는 하이브리드 알고리즘이다. 양자 위상 추정(QPE)과 달리, 매우 긴 결맞음 시간을 요구하지 않기 때문에 현재의 NISQ(Noisy Intermediate-Scale Quantum) 장치에서도 실행 가능하다는 점이 핵심 장점이다.

알고리즘의 구조는 크게 두 부분으로 나뉜다. 양자 프로세서는 파라미터화된 시험 상태를 준비하고 에너지 기댓값을 측정하며, 고전 컴퓨터는 그 측정값을 바탕으로 파라미터를 업데이트한다. 이 루프를 반복하여 에너지를 최소화한다.

핵심 원리

변분 원리

양자역학의 변분 원리에 따르면, 임의의 정규화된 상태 $∣ ψ ⟩$ 에 대해 다음이 성립한다:

$E_{0} \leq ⟨ ψ ∣ \hat{H} ∣ ψ ⟩$

파라미터 벡터 $θ \in R^{m}$ 으로 제어되는 시험 상태 $∣ ψ (θ)⟩$ 를 정의하면, 에너지 함수

$E (θ) = ⟨ ψ (θ) ∣ \hat{H} ∣ ψ (θ)⟩$

는 항상 $E_{0}$ 의 상한이 된다. 따라서 $E (θ)$ 를 최소화할수록 $E_{0}$ 에 근접한다.

안사츠(Ansatz) 회로

$∣ ψ (θ)⟩$ 는 파라미터화 양자 회로(PQC)로 구현된다. 대표적인 안사츠 유형은 다음과 같다.

하드웨어 효율 안사츠(HEA): 장치의 물리적 연결 위상도에 맞춰 설계하여 게이트 오류를 최소화한다.
UCCSD(Unitary Coupled-Cluster Singles and Doubles): 전자 상관 효과를 담는 화학적 근거를 가진 안사츠로, 정확도가 높은 대신 회로가 깊어진다.

안사츠 설계는 **표현력(expressibility)**과 회로 깊이 사이의 트레이드오프를 수반하며, VQE 성능에 가장 결정적인 요인이다.

해밀토니안의 파울리 분해

분자 해밀토니안 $\hat{H}$ 는 파울리 연산자의 선형 결합으로 표현된다:

$\hat{H} = k \sum c_{k} \hat{P}_{k}, \hat{P}_{k} \in {I, X, Y, Z}^{\otimes n}$

각 파울리 항 $⟨ \hat{P}_{k} ⟩$ 의 기댓값은 개별 측정 회로로 추정한 뒤 합산하여 $E (θ)$ 를 구성한다.

파라미터 이동 법칙(Parameter-Shift Rule)

그래디언트는 유한 차분 대신 해석적 방법으로 계산할 수 있다. 단일 회전 게이트 $e^{- i θ_{k} \hat{G} /2}$ 에 대해:

$\frac{\partial E}{\partial θ _{k}} = \frac{1}{2} [E (θ + \frac{π}{2} e_{k}) - E (θ - \frac{π}{2} e_{k})]$

이 법칙 덕분에 실제 양자 하드웨어에서 정확한 그래디언트를 얻을 수 있다.

최적화 루프 요약

$θ$ 로 $∣ ψ (θ)⟩$ 준비 (양자 회로 실행)
파울리 항별 기댓값 측정 → $E (θ)$ 계산
고전 최적화기(COBYLA, SPSA, Adam 등)로 $θ$ 갱신
수렴 기준 충족 시 종료, 아니면 1로 복귀

예시·응용

H₂ 분자 바닥 상태 에너지

수소 분자(H₂)는 VQE의 표준 벤치마크다. STO-3G 기저에서 2큐비트로 매핑된 해밀토니안의 이론적 바닥 상태 에너지는 약 $- 1.137$ Hartree이며, VQE로 이 값에 근접할 수 있는지 검증한다.

아래는 Qiskit 기반의 단순화된 구현 예시다:

from qiskit.circuit.library import TwoLocal
from qiskit_algorithms import VQE
from qiskit_algorithms.optimizers import COBYLA
from qiskit.primitives import Estimator
from qiskit.quantum_info import SparsePauliOp

# H2 STO-3G 해밀토니안 (단순화)
hamiltonian = SparsePauliOp.from_list([
    ("II", -1.0523732),
    ("IZ",  0.3979374),
    ("ZI", -0.3979374),
    ("ZZ", -0.0112801),
    ("XX",  0.1809312),
])

# 2큐비트 TwoLocal 안사츠
ansatz = TwoLocal(2, ["ry", "rz"], "cx", reps=2)

# VQE 실행
vqe = VQE(Estimator(), ansatz, COBYLA(maxiter=500))
result = vqe.compute_minimum_eigenvalue(hamiltonian)
print(f"바닥 상태 에너지: {result.eigenvalue:.6f} Hartree")

주요 응용 분야

분야	해밀토니안 유형	목표
양자 화학	분자 전자 해밀토니안	결합 에너지, 반응 경로
재료 과학	Hubbard, Heisenberg 모형	강상관 전자계 상전이
조합 최적화	이징(Ising) 해밀토니안	최대 컷, 포트폴리오 최적화

정리

VQE는 변분 원리를 양자 회로 측정과 고전 최적화의 반복 루프로 구현하여, NISQ 환경에서 실용적으로 동작하는 최초의 하이브리드 알고리즘 중 하나다. 안사츠의 표현력·회로 깊이 트레이드오프, 측정 통계 오류, 그리고 파라미터 공간이 커질수록 그래디언트가 지수적으로 소멸하는 바렌 플래토(barren plateau) 문제가 현재 가장 활발히 연구되는 과제다. 내결함성 양자 하드웨어가 성숙함에 따라 더 깊은 안사츠와 더 큰 분자계로 적용 범위가 확장될 것으로 기대된다.

핵심 정리

01변분 원리에 의해 파라미터화 상태의 에너지 기댓값은 항상 바닥 상태 에너지의 상한이며, 이를 최소화하여 $E_0$에 근접한다

02해밀토니안을 파울리 연산자의 선형 결합으로 분해하면, 각 항의 기댓값을 양자 측정으로 개별 추정할 수 있다

03파라미터 이동 법칙(Parameter-Shift Rule)을 통해 실제 양자 하드웨어에서 해석적 그래디언트를 계산할 수 있다

04안사츠의 표현력과 회로 깊이는 VQE 정확도와 노이즈 민감도 사이의 핵심 트레이드오프를 결정한다

05바렌 플래토 현상은 안사츠가 깊어질수록 그래디언트가 지수적으로 소멸하여 최적화가 불가능해지는 문제다

06VQE는 NISQ 시대의 양자 화학, 재료 과학, 조합 최적화에 걸친 하이브리드 알고리즘의 원형이다

연습문제

Q1.변분 원리를 이용하여, 상태 $|\psi\rangle = \cos\frac{\theta}{2}|0\rangle + \sin\frac{\theta}{2}|1\rangle$에 대해 해밀토니안 $\hat{H} = Z$의 에너지 기댓값 $E(\theta)$를 구하고, 이를 최소화하는 $\theta$와 최솟값을 구하라.

힌트 보기

$\langle Z \rangle = \langle \psi | Z | \psi \rangle$을 직접 계산하고, $\cos\theta$의 최솟값을 생각하라.

해설 보기

$E(\theta) = \langle \psi | Z | \psi \rangle = \cos^2\frac{\theta}{2} - \sin^2\frac{\theta}{2} = \cos\theta$이다. 이를 최소화하면 $\theta = \pi$일 때 $E(\pi) = -1$이며, 이때 $|\psi\rangle = |1\rangle$로 $Z$의 최소 고유벡터와 일치한다. 변분 원리의 등호 조건은 시험 상태가 정확히 바닥 상태일 때 성립함을 확인할 수 있다.

Q2.파라미터 이동 법칙에서 이동량이 $\pm\pi/2$인 이유를 단일 회전 게이트 $R_y(\theta) = e^{-i\theta Y/2}$의 성질로부터 유도하라.

힌트 보기

$R_y(\theta)$에 의한 기댓값 $E(\theta)$는 $\theta$에 대해 사인 함수 형태를 가짐을 이용하라.

해설 보기

$R_y(\theta)$의 고유값이 $e^{\pm i/2}$이므로, $E(\theta)$는 $\theta$에 대해 $A\sin\theta + B\cos\theta + C$ 형태의 사인파다. 이 함수의 도함수는 $\frac{dE}{d\theta} = A\cos\theta - B\sin\theta$이며, $E(\theta + \pi/2) - E(\theta - \pi/2)$를 계산하면 정확히 $2\frac{dE}{d\theta}$가 됨을 대입으로 확인할 수 있다. 이동량 $\pi/2$는 이 사인파 구조에서 도함수를 정확히 추출하는 유일한 선택이다.

Q3.바렌 플래토(barren plateau) 문제란 무엇이며, 이를 완화하기 위한 전략을 두 가지 이상 설명하라.

해설 보기

바렌 플래토는 무작위 초기화된 깊은 파라미터화 회로에서 그래디언트의 분산이 큐비트 수 $n$에 대해 $O(2^{-n})$으로 지수 감소하여 사실상 최적화가 불가능해지는 현상이다. 완화 전략으로는 ① **층별 학습(Layer-by-Layer Training)**: 회로를 얕게 시작하여 점진적으로 레이어를 추가하며 학습하는 방법, ② **국소 비용 함수(Local Cost Functions)**: 전체 시스템 대신 소수 큐비트에만 의존하는 비용 함수를 사용하여 그래디언트 소멸을 억제하는 방법, ③ **구조적 안사츠 사용**: UCCSD처럼 물리적 대칭성에 기반한 안사츠는 파라미터 공간이 구조화되어 있어 바렌 플래토가 덜 심각하다는 것이 알려져 있다.

개념 소개

핵심 원리

변분 원리

안사츠(Ansatz) 회로

해밀토니안의 파울리 분해

파라미터 이동 법칙(Parameter-Shift Rule)

최적화 루프 요약

예시·응용

H₂ 분자 바닥 상태 에너지

주요 응용 분야

정리

연습문제

관련 용어