변분 양자 고유값 계산(VQE): 원리와 구현

먼저 읽으면 좋은 용어

개념 소개

양자화학에서 분자의 기저 상태 에너지를 정확히 계산하는 일은 전자 수가 늘어날수록 지수적으로 어려워진다. 완전 배위 상호작용(Full CI) 방법은 힐베르트 공간 전체를 탐색하므로 수십 개 이상의 전자가 있으면 고전 컴퓨터로는 사실상 불가능하다.

VQE는 이 문제를 다음 두 가지 관찰로 우회한다.

변분 원리: 임의의 정규화된 상태 $∣ ψ ⟩$ 에 대해 $⟨ ψ ∣ H ∣ ψ ⟩ \geq E_{0}$ (단, $E_{0}$ 는 해밀토니안 $H$ 의 최솟값인 기저 에너지).
매개변수화된 양자 회로: 양자 컴퓨터 위에서 $∣ ψ (θ)⟩ = U (θ) ∣0 ⟩^{\otimes n}$ 형태의 시도 상태(ansatz)를 효율적으로 준비할 수 있다.

따라서 $θ$ 를 고전 최적화기로 반복 갱신하여

$E (θ) = ⟨ ψ (θ) ∣ H ∣ ψ (θ)⟩ ⟶ min$

을 달성하면 $E_{0}$ 에 대한 상한을 점차 낮출 수 있다.

핵심 원리

1. 해밀토니안의 파울리 분해

양자 컴퓨터에서 $H$ 를 측정하려면 먼저 파울리 연산자의 선형 결합으로 변환해야 한다.

$H = k \sum c_{k} P_{k}, P_{k} \in {I, X, Y, Z}^{\otimes n}$

분자 해밀토니안은 Jordan–Wigner 또는 Bravyi–Kitaev 변환을 통해 이 형태로 표현된다. 각 파울리 항의 기댓값을 독립적으로 측정한 뒤 고전 컴퓨터에서 가중합을 계산한다.

$E (θ) = k \sum c_{k} ⟨ ψ (θ) ∣ P_{k} ∣ ψ (θ)⟩$

2. Ansatz 선택

Ansatz의 표현력과 회로 깊이 사이의 균형이 VQE 성능을 결정한다.

Ansatz	특징
UCCSD	화학적으로 동기화, 깊이 큼
Hardware-efficient ansatz	하드웨어 맞춤, 표현력 조절 가능
ADAPT-VQE	그래디언트 기반 동적 회로 구성

UCCSD(Unitary Coupled-Cluster Singles and Doubles)는 클러스터 연산자 $T = T_{1} + T_{2}$ 를 이용해

$∣ ψ_{UCCSD} ⟩ = e^{T - T^{†}} ∣ Φ_{HF} ⟩$

를 정의하며, 하트리-폭 기저 상태 $∣ Φ_{HF} ⟩$ 위에서 작용한다.

3. 최적화 루프

VQE의 핵심 루프는 다음과 같다.

초기화 θ
while not converged:
    양자 회로 실행 → E(θ) 측정
    고전 최적화기: θ ← θ - η ∇_θ E(θ)

그래디언트 계산에는 **매개변수 이동 규칙(parameter-shift rule)**이 자주 쓰인다.

$\frac{\partial E}{\partial θ _{k}} = \frac{E ( θ _{k} + π /2 ) - E ( θ _{k} - π /2 )}{2}$

이는 유한 차분 없이 정확한 그래디언트를 양자 회로 두 번 실행으로 얻는다. 최적화기로는 COBYLA, SPSA, Adam 등이 활용된다.

예시·응용

H₂ 분자 기저 에너지 계산 (Qiskit 개요)

아래는 VQE의 전체 흐름을 보여주는 간략 예시다.

from qiskit_nature.second_q.drivers import PySCFDriver
from qiskit_nature.second_q.mappers import JordanWignerMapper
from qiskit_nature.second_q.algorithms import VQEUCCFactory
from qiskit.algorithms.optimizers import SLSQP
from qiskit.primitives import Estimator

# 1. 분자 정의
driver = PySCFDriver(atom="H .0 .0 .0; H .0 .0 0.735", basis="sto-3g")
problem = driver.run()

# 2. 해밀토니안 → 파울리 연산자 변환
mapper = JordanWignerMapper()
hamiltonian = mapper.map(problem.second_q_ops()[0])

# 3. VQE 실행
estimator = Estimator()
optimizer = SLSQP(maxiter=300)
factory = VQEUCCFactory(estimator, optimizer=optimizer)
result = factory.get_solver(problem, mapper).solve(problem)

print(f"기저 에너지: {result.total_energies[0]:.6f} Hartree")

H₂ 분자(STO-3G 기저)의 경우 정확한 Full CI 결과와 수 밀리하트리 이내의 오차를 보인다.

실용적 한계와 오류 완화

NISQ 장치에서 VQE를 실행할 때 게이트 잡음, 측정 오류, 준비 오류가 $E (θ)$ 추정에 편향을 만든다. 이를 완화하기 위해 영잡음 외삽(ZNE), 확률적 오류 소거(PEC) 등의 오류 완화 기법이 함께 적용된다.

정리

VQE는 변분 원리, 매개변수화된 양자 회로, 고전 최적화를 결합한 하이브리드 알고리즘으로, 양자 우월성이 완전히 확립되기 이전의 NISQ 시대에 실질적 양자 이점을 추구하는 대표적 접근이다. Ansatz의 선택, 측정 횟수에 따른 통계 오류, 최적화 지형의 평탄함(barren plateau) 문제가 연구의 핵심 과제로 남아 있다.

Summary

핵심 정리

01변분 원리에 따라 임의 상태의 에너지 기댓값은 기저 에너지의 상한이므로, 이를 최소화하면 기저 에너지에 수렴한다.
02해밀토니안은 Jordan–Wigner 등의 변환으로 파울리 연산자 선형 결합으로 분해되어야 양자 컴퓨터에서 측정 가능하다.
03Ansatz의 선택은 표현력(정확도)과 회로 깊이(잡음) 사이의 트레이드오프를 결정한다.
04매개변수 이동 규칙을 통해 해석적 그래디언트를 추가 회로 실행 두 번으로 계산할 수 있다.
05Barren plateau 현상(그래디언트 소실)은 큰 시스템에서 최적화를 어렵게 만드는 주요 문제다.
06오류 완화 기법(ZNE, PEC 등)은 NISQ 환경에서 VQE의 실용성을 높이는 보조 수단이다.

Exercises

연습문제

Q1변분 원리를 이용해 $\langle\psi|H|\psi\rangle \geq E_0$가 성립함을 $H$의 고유분해를 통해 증명하라.
힌트 보기
$H = \sum_i E_i |i\rangle\langle i|$로 쓰고, $|\psi\rangle = \sum_i c_i|i\rangle$을 대입한 뒤 $\sum_i |c_i|^2 = 1$을 이용하라.
해설 보기
$H$의 스펙트럼 분해를 $H = \sum_i E_i|i\rangle\langle i|$ ($E_0 \leq E_1 \leq \cdots$)로 쓰면, $|\psi\rangle = \sum_i c_i|i\rangle$에 대해 $\langle\psi|H|\psi\rangle = \sum_i |c_i|^2 E_i \geq E_0 \sum_i |c_i|^2 = E_0$. 등호는 $|\psi\rangle = |0\rangle$ (기저 상태)일 때 성립한다.
Q2매개변수 이동 규칙 $\partial_\theta E = \frac{E(\theta+\pi/2) - E(\theta-\pi/2)}{2}$가 성립하기 위한 게이트의 조건은 무엇인가?
힌트 보기
매개변수화된 게이트 $U(\theta) = e^{-i\theta G}$에서 $G$의 고유값 구조를 생각하라.
해설 보기
해당 규칙은 생성자 $G$의 고유값이 $\pm r$ (두 값만) 형태일 때 성립한다. 일반적으로 $G$의 고유값이 $\{+s, -s\}$이면 이동량은 $\pi/(4s)$가 된다. 대부분의 단일 큐비트 회전 게이트($R_x, R_y, R_z$)는 $G = \sigma/2$ 형태이므로 $s=1/2$이고 이동량은 $\pi/2$다.
Q32큐비트 H₂ VQE에서 ansatz를 $|\psi(\theta)\rangle = R_y(\theta)|00\rangle$으로 단순화할 때, 최적 $\theta$를 구하는 과정을 서술하고 이 ansatz의 한계를 논하라.
해설 보기
$R_y(\theta)|00\rangle = \cos(\theta/2)|00\rangle + \sin(\theta/2)|10\rangle$ 형태이므로, $E(\theta) = \langle\psi(\theta)|H|\psi(\theta)\rangle$를 계산하면 $\theta$의 단변수 함수가 된다. $dE/d\theta = 0$을 풀거나 매개변수 이동 규칙으로 그래디언트를 추적해 최솟값을 찾는다. 그러나 이 ansatz는 얽힘(entanglement)을 생성하지 못하므로, 실제 기저 상태가 얽힌 상태인 경우(예: H₂의 공유결합) 정확한 에너지에 도달할 수 없다는 표현력의 한계가 있다.