변분 양자 고유값 계산(VQE): 하이브리드 양자-고전 최적화

VQE(Variational Quantum Eigensolver)는 매개변수화된 양자 회로와 고전 최적화기를 결합하여 해밀토니안의 바닥 상태 에너지를 구하는 하이브리드 알고리즘이다. 양자 오류에 취약한 현세대(NISQ) 장치에서도 활용 가능하도록 설계되었으며, 양자화학 및 재료과학 문제에 폭넓게 적용된다.

개념 소개

VQE는 2014년 Peruzzo 등이 제안한 이후 NISQ 시대의 핵심 알고리즘 중 하나로 자리잡았다. 핵심 아이디어는 **변분 원리(variational principle)**를 양자 회로에 접목하는 것이다.

물리적 직관은 다음과 같다. 어떤 시도 상태(trial state) $∣ ψ (θ)⟩$ 에 대해 해밀토니안 $H$ 의 기댓값은 항상 바닥 상태 에너지 $E_{0}$ 이상이다.

$E (θ) = ⟨ ψ (θ) ∣ H ∣ ψ (θ)⟩ \geq E_{0}$

따라서 $θ$ 를 조정하여 기댓값을 최소화하면 바닥 상태 에너지에 근접할 수 있다. 양자 컴퓨터는 기댓값 측정을 담당하고, 고전 컴퓨터는 $θ$ 의 갱신을 담당한다.

핵심 원리

1. 안사츠(Ansatz) 설계

안사츠는 매개변수 $θ = (θ_{1}, θ_{2}, \dots, θ_{p})$ 를 포함하는 유니터리 연산자 $U (θ)$ 로 구성된 양자 회로이며, 초기 상태 $∣0 ⟩^{\otimes n}$ 에 적용하여 시도 상태를 생성한다.

$∣ ψ (θ)⟩ = U (θ) ∣0 ⟩^{\otimes n}$

대표적인 안사츠 두 가지:

UCCSD(Unitary Coupled Cluster Singles and Doubles): 양자화학 기반의 물리적으로 동기화된 안사츠. 정밀도가 높으나 회로 깊이가 크다.
하드웨어 효율 안사츠(Hardware-Efficient Ansatz): 장치의 연결 위상에 맞게 설계하여 회로 깊이를 최소화한다.

2. 해밀토니안의 파울리 분해

분자 해밀토니안은 파울리 연산자의 가중합으로 변환된다(Jordan–Wigner 또는 Bravyi–Kitaev 변환).

$H = k \sum c_{k} j ⨂ P_{k, j}, P_{k, j} \in {I, X, Y, Z}$

각 파울리 항의 기댓값은 독립적으로 측정·합산되므로, 한 번의 회로 실행으로 전체 기댓값을 얻는다.

3. 에너지 기울기 계산 — 매개변수 이동 규칙

기울기를 해석적으로 계산할 때는 **매개변수 이동 규칙(parameter-shift rule)**을 사용한다.

$\frac{\partial E}{\partial θ _{k}} = \frac{1}{2} [E (θ_{k} + \frac{π}{2}) - E (θ_{k} - \frac{π}{2})]$

이 기울기를 고전 최적화기(COBYLA, BFGS, Adam 등)에 공급하여 $θ$ 를 반복 갱신한다.

4. 전체 루프

초기화: θ 랜덤 설정
반복:
  1. 양자 회로 U(θ) 실행 → 파울리 기댓값 측정
  2. E(θ) = Σ c_k <P_k> 계산
  3. 고전 최적화기로 θ 갱신
수렴 시 E_min ≈ E_0 반환

예시·응용

H₂ 분자 바닥 상태 에너지 계산 (Qiskit 예시)

from qiskit.circuit.library import TwoLocal
from qiskit.quantum_info import SparsePauliOp
from qiskit.primitives import StatevectorEstimator
from scipy.optimize import minimize
import numpy as np

# H2 STO-3G 해밀토니안 (간략화된 파울리 표현)
H2_hamiltonian = SparsePauliOp.from_list([
    ("II", -1.0523732),
    ("ZI",  0.3979374),
    ("IZ", -0.3979374),
    ("ZZ", -0.0112801),
    ("XX",  0.1809312),
])

# 하드웨어 효율 안사츠 (2큐비트, 1레이어)
ansatz = TwoLocal(2, ["ry", "rz"], "cx", reps=1)
num_params = ansatz.num_parameters

# 에너지 함수
estimator = StatevectorEstimator()

def energy(params):
    bound = ansatz.assign_parameters(params)
    job = estimator.run([(bound, H2_hamiltonian)])
    return job.result()[0].data.evs.real

# 고전 최적화
theta0 = np.random.uniform(-np.pi, np.pi, num_params)
result = minimize(energy, theta0, method="COBYLA",
                  options={"maxiter": 500, "rhobeg": 0.5})

print(f"최적화 에너지: {result.fun:.6f} Hartree")
# 참값(FCI): -1.137270 Hartree

주요 응용 분야

분야	예시
양자화학	분자 바닥 상태·반응 에너지 계산
재료과학	강상관 전자계, 위상 재료 모델링
조합 최적화	QUBO 문제의 바닥 상태 탐색
핵물리	핵력 해밀토니안 고유 에너지

정리

VQE는 변분 원리를 양자-고전 루프로 구현한 알고리즘으로, NISQ 장치의 제한된 회로 깊이와 오류율 내에서 실용적인 성능을 목표로 한다. 성능은 안사츠의 표현력(expressibility)과 측정 오버헤드, 최적화 지형(barren plateau 문제)에 크게 의존한다. 향후 오류 완화(error mitigation) 기법 및 적응형 안사츠(ADAPT-VQE)와 결합하여 정밀도를 높이는 연구가 활발하다.

연습문제

Q1.변분 원리에 의하면 임의의 정규화된 상태 $|\phi\rangle$에 대해 $\langle \phi | H | \phi \rangle \geq E_0$가 성립함을 증명하라. (힌트: $H$의 고유 상태 전개를 이용한다.)

힌트 보기

$|\phi\rangle = \sum_k c_k |E_k\rangle$로 전개한 뒤 $\sum_k |c_k|^2 = 1$ 조건을 활용한다.

해설 보기

Q2.매개변수 이동 규칙 $\partial E/\partial \theta_k = \frac{1}{2}[E(\theta_k+\pi/2) - E(\theta_k-\pi/2)]$이 성립하기 위한 게이트 조건은 무엇인가?

힌트 보기

게이트 $G(\theta) = e^{-i\theta P/2}$ 꼴에서 생성자 $P$의 고유값을 생각해 보라.

해설 보기

해당 게이트의 생성자(generator) $P$가 고유값 $\pm \frac{1}{2}$만 갖는 파울리 계열 연산자여야 한다. 이 경우 에너지 함수가 $\theta$에 대해 $A\sin(\theta + \phi) + B$ 형태의 단순 삼각함수가 되어 정확한 해석적 기울기 공식이 유도된다.

Q3.Barren plateau 현상이란 무엇이며, 이를 완화하기 위한 전략을 두 가지 서술하라.

해설 보기

Barren plateau는 안사츠의 큐비트 수·레이어 깊이가 증가함에 따라 비용 함수의 기울기가 지수적으로 작아져 최적화가 불가능해지는 현상이다. 완화 전략으로는 ① **국소 비용 함수 사용**: 전역 해밀토니안 대신 큐비트 부분계의 국소 관측량을 비용 함수로 사용하여 기울기 소실 속도를 늦춘다. ② **층별 순차 학습(layer-by-layer training)**: 레이어를 하나씩 추가하며 이전 매개변수를 고정한 채 새 매개변수만 최적화하여 초기 기울기가 충분히 큰 영역에서 훈련을 시작한다.

개념 소개

핵심 원리

1. 안사츠(Ansatz) 설계

2. 해밀토니안의 파울리 분해

3. 에너지 기울기 계산 — 매개변수 이동 규칙

4. 전체 루프

예시·응용

H₂ 분자 바닥 상태 에너지 계산 (Qiskit 예시)

주요 응용 분야

정리

연습문제

관련 용어